Les performances des IA sont souvent mesurées, mais pas leur capacité à comprendre nos intentions. Le coefficient génie propose une nouvelle métrique pour évaluer cette distance entre la demande et l’interprétation de l’IA.
Les benchmarks existants évaluent ce que les intelligences artificielles (IA) sont capables de faire, mais ils ne mesurent pas si elles comprennent vraiment ce que l’on attend d’elles. C’est ici qu’intervient le concept de “coefficient génie”, une nouvelle métrique qui pourrait révolutionner notre compréhension de l’interaction homme-machine. Traditionnellement, lorsque nous faisons une demande, il existe un écart entre notre demande explicite et les hypothèses sous-jacentes que nous avons sur la façon dont elle doit être interprétée. Par exemple, si vous demandez à un ami d’aller chercher un café, il saura probablement vous apporter une tasse, mais il ne vous rapportera pas des grains de café ou une commande pour un café à livrer dans une semaine. Cette capacité de déduire des intentions à partir du contexte est souvent absente des systèmes d’IA.
Dans leur livre fondateur de 1987, Terry Winograd et Fernando Flores soutiennent que le langage humain est intrinsèquement imprécis et que nos désirs ne peuvent jamais être entièrement spécifiés. Cela pose un défi majeur pour les IA qui, lorsqu’elles reçoivent une demande, ont une grande latitude pour mal interpréter les instructions. Par exemple, une IA pourrait mal comprendre une demande de café et, au lieu de cela, acheter une plantation de café. Plus les individus impliqués sont différents en termes d’âge, de culture ou de parcours, plus le risque de malentendu augmente.
L’essor des agents IA, comme Alexa ou Siri, a changé la donne. Autrefois, les erreurs d’interprétation étaient simplement ennuyeuses, mais elles peuvent maintenant avoir des conséquences significatives. La technologie qui entoure ces modèles d’IA a évolué, permettant aux systèmes de prendre des décisions proactives sans toujours vérifier les intentions de l’utilisateur. Cela souligne l’importance d’un cadre éthique et pratique pour guider les actions des IA. Alors que les IA continuent d’évoluer et d’être intégrées dans des aspects cruciaux de notre vie quotidienne, le développement d’un coefficient génie pourrait être essentiel pour garantir que ces systèmes comprennent nos désirs et nos intentions de manière plus précise. En fin de compte, une meilleure compréhension des nuances du langage humain pourrait améliorer considérablement notre interaction avec les technologies intelligentes.