L’avenir de l’IA, pouvons-nous le superviser ? Que se passe-t-il si nous ne le pouvons pas ?

L’IA continue d’évoluer au-delà de notre imagination, et un grand défi est de déterminer comment évaluer et superviser ses résultats. Si l’IA devenait aussi intelligente qu’un humain ne pouvait plus la comprendre, comment devrions-nous réagir ? Réfléchissons à ce que cela signifierait pour notre avenir si cette tendance se poursuivait.

Actualités d’aujourd’hui : Que se passe-t-il ?

Source :
https://www.lesswrong.com/posts/rzCF2T7iLPEgNa59Y/rational-animations-video-about-scalable-oversight-and

Résumé :

• L’évolution de l’IA est rapide, ce qui rend difficile l’évaluation de ses résultats par les humains.
• Les concepts de « supervision scalable » et de « sandwiching » ont été proposés pour faire face à ce défi.
• Ces méthodes fournissent un cadre pour superviser les résultats générés par l’IA de manière plus efficace.

Les changements d’époque en arrière-plan

① Perspective adulte

Dans la société actuelle, avec l’évolution de l’IA, il est nécessaire de trouver des moyens d’effectuer une supervision de haute qualité tout en réduisant l’effort humain. Bien que nous bénéficions des commodités offertes par l’évolution technologique, les systèmes et lois pour faire face aux risques et défis qui en découlent ne sont pas encore en place.

② Perspective enfant

À mesure que l’IA s’immisce de plus en plus dans notre vie quotidienne, elle affecte également la façon dont les enfants apprennent et jouent. Par exemple, il n’est pas si lointain de penser qu’un jour l’IA pourrait devenir un tuteur. Quel impact ce changement aura-t-il sur notre quotidien et nos choix ?

③ Perspective parent

En tant que parent, il est essentiel de comprendre comment l’IA influence la croissance des enfants et de faire des choix avec prudence. Il est important de ne pas attendre que la société change, mais plutôt de réévaluer les règles et valeurs au sein de la famille et de réfléchir à la manière de s’engager avec l’IA.

Si cela continue ainsi, quel sera l’avenir ?

Hypothèse 1 (neutre) : Un avenir où l’IA devient la norme

L’IA s’intègre dans la vie quotidienne, devenant un assistant qui aide dans notre travail et notre apprentissage. En termes de changement direct, l’IA agit comme notre assistant et réduit les efforts humains dans les tâches. En termes de valeurs, la manière dont nous utilisons l’IA sera perçue comme une partie de notre compétence humaine.

Hypothèse 2 (optimiste) : Un avenir avec de grandes avancées technologiques en IA

L’IA dépasse les limites humaines, apportant des avancées révolutionnaires dans les domaines de la science et de la médecine. Directement, l’IA facilitera de nouvelles découvertes, et indirectement, la connaissance de la société tout entière se répandra rapidement. En termes de valeurs, la collaboration avec l’IA sera perçue comme une nouvelle forme de création.

Hypothèse 3 (pessimiste) : Un avenir où le jugement humain s’affaiblit

Une trop grande dépendance à l’IA pourrait entraîner une perte de la capacité humaine à penser et agir de manière autonome. Directement, l’IA commencera à prendre de nombreuses décisions, et indirectement, une structure sociale où les humains dépendent de l’IA sera formée. En termes de valeurs, une tendance à sous-estimer l’autonomie et la créativité pourrait se développer.

Questions à discuter en famille (Conseils pour les dialogues parent-enfant)

• Exemple de question : Si l’IA devenait plus proche, quelles règles aimeriez-vous établir ?
  Objectif : Choix de comportement / Création de règles
• Exemple de question : Que diriez-vous à un ami qui ne connaît pas l’IA, avec quels mots ou images ?
  Objectif : Apprentissage collaboratif / Communication
• Exemple de question : Comment pensez-vous qu’on pourrait utiliser l’IA d’une manière amusante à l’école de demain ?
  Objectif : Imagination / Design d’apprentissage

Conclusion : Se préparer pour dix ans et choisir aujourd’hui

Quel avenir devrions-nous viser ? Réfléchissons à l’impact que l’IA aura sur notre vie et profitons-en pour faire des choix quotidiens. Quel avenir avez-vous imaginé ? N’hésitez pas à partager votre opinion sur les réseaux sociaux ou dans les commentaires.