Nous construisons un système qui dit à quelqu’un qu’il va vers l’épuisement. Se tromper dans un sens comme dans l’autre fait du mal, alors voici précisément comment cela est gouverné, et ce que le produit refuse de faire.
Chaque message est classé avant d’être traité. C’est ainsi qu’un langage de crise sort du chemin conversationnel ordinaire.
Il choisit le type de réponse dans une taxonomie revue par des cliniciens, plutôt que de générer librement en espérant que cela tombe juste.
Il vérifie la réponse contre les règles fixées par le comité clinique, y compris la liste de ce que l’IA ne doit jamais dire.
Le dernier contrôle avant affichage, avec des arrêts nets sur le conseil médical, le diagnostic et les contenus d’auto-agression.
Notre comité relit les modèles, la logique d’escalade et la langue employée avec un aidant en détresse.
Les parcours de crise mettent en avant des ressources professionnelles et des lignes humaines plutôt qu’une réponse d’IA, à chaque fois.
Ces limites sont appliquées dans la chaîne de traitement, pas écrites dans une charte en espérant qu’elles tiennent.
Les normes de population portent les biais des populations sur lesquelles elles ont été construites. Les instruments de charge de l’aidant ont été validés en grande partie sur des groupes démographiques précis, et appliquer leurs seuils de façon uniforme revient à importer cette histoire.
Mesurer chaque personne contre sa propre ligne de base glissante contourne une bonne part du problème, puisque la comparaison est interne. Cela n’élimine pas les biais, car les signaux eux-mêmes peuvent être culturellement marqués : c’est pourquoi le comité clinique relit la taxonomie des signaux, et pourquoi nous publions les limites plutôt que la version marketing.
Nous préférons avoir cette conversation tôt. Écrivez à connect@taloshealth.ai.
Une chaîne en couches plutôt qu’un modèle unique : une couche sémantique propriétaire combinée à des modèles de langage généralistes, sous contraintes strictes de prompt et de sortie. Ce sont les couches qui rendent l’ensemble sûr, pas le modèle de base.
La détection des motifs comportementaux de crise et d’épuisement se situe autour de 93 pour cent en interne, sur notre propre jeu d’évaluation. C’est un chiffre d’ingénierie utile, ce n’est pas une validation clinique, et nous le décrivons ainsi.
Nous. Le comité consultatif clinique relit la logique d’escalade, les incidents sont journalisés et revus, et le garde-fou final est un composant bloquant, pas un simple observateur. Sur le plan réglementaire, nos traitements relèvent du RGPD, et le règlement européen sur l’intelligence artificielle s’applique par étapes : nous préparons la documentation et l’analyse de risque attendues, sans revendiquer une conformité déjà acquise.
Oui. Vous pouvez refuser les questionnaires et continuer à utiliser les fonctions de coordination. La mesure de la charge est un service rendu à l’aidant, pas une condition d’accès, et les droits d’accès, de rectification, d’opposition et d’effacement s’exercent auprès de nous à tout moment.
Si quelque chose ici ne correspond pas à ce que vous voyez dans le produit, dites-le nous.