¿Puede ser supervisado el futuro de la IA? ¿Y si no se puede?

A medida que la IA continúa evolucionando más allá de nuestra imaginación, cómo evaluar y supervisar su output se convierte en un gran desafío. Si la IA llegara a ser tan inteligente que los humanos no pudieran entenderla, ¿cómo deberíamos responder? Reflexionemos sobre cómo sería el futuro si esta tendencia continúa.

Noticias de hoy: ¿Qué está sucediendo?

Fuente:
https://www.lesswrong.com/posts/rzCF2T7iLPEgNa59Y/rational-animations-video-about-scalable-oversight-and

Resumen:

• La evolución de la IA es rápida, lo que podría dificultar la evaluación de su output por parte de los humanos.
• Se han propuesto los conceptos de «supervisión escalable» y «sandwiching» para abordar este desafío.
• Estos métodos proporcionan un marco para supervisar más eficientemente los resultados generados por la IA.

Cambios de época en el trasfondo

① Perspectiva de los adultos

En la sociedad actual, se busca una forma de realizar una supervisión de alta calidad mientras se reduce el trabajo humano con el avance de la IA. Aunque disfrutamos de las comodidades que trae la evolución tecnológica, aún no existen leyes ni sistemas adecuados para enfrentar los riesgos y desafíos que vienen con ello.

② Perspectiva de los niños

La creciente integración de la IA en nuestras vidas está afectando la forma en que los niños aprenden y juegan. Por ejemplo, el día en que la IA se convierta en un tutor no está tan lejos. ¿Qué tipo de impacto tendrá este cambio en nuestra vida cotidiana y elecciones?

③ Perspectiva de los padres

Como padres, es necesario entender cómo la IA influirá en el crecimiento de los niños y seleccionar cuidadosamente. No debemos esperar a que la sociedad cambie, sino revisar las reglas y valores en el hogar y reflexionar sobre cómo relacionarnos con la IA.

¿Qué pasará si seguimos así, cómo será el futuro?

Hipótesis 1 (neutra): Un futuro donde la IA sea común

La IA se integrará en la vida diaria y se convertirá en una ayuda para nuestro trabajo y aprendizaje. Un cambio directo será que la IA funcionará como nuestro asistente, eliminando el esfuerzo humano. En cuanto a los valores, cómo utilizamos la IA será visto como parte de nuestra capacidad humana.

Hipótesis 2 (optimista): Un futuro donde la tecnología de IA evoluciona significativamente

La IA superará las limitaciones humanas, trayendo avances revolucionarios en ciencia y medicina. Directamente, la IA fomentará nuevos descubrimientos, y como consecuencia, el conocimiento general de la sociedad se expandirá rápidamente. En términos de valores, la colaboración con la IA será reconocida como una nueva forma de creación.

Hipótesis 3 (pesimista): Un futuro donde se pierde la capacidad de juicio humano

Confiar demasiado en la IA podría llevar a que los humanos pierdan la capacidad de pensar y actuar por sí mismos. Un cambio directo sería que la IA comenzara a tomar muchas decisiones, y como consecuencia, formaría una estructura social donde los humanos dependen de la IA. En cuanto a los valores, podría surgir una tendencia a menospreciar la autonomía y la creatividad.

Preguntas para discutir en casa (sugerencias para el diálogo padre-hijo)

• Ejemplo de pregunta: Si la IA se vuelve más cercana, ¿qué reglas te gustaría establecer?
  Objetivo: Selección de acciones y formulación de reglas
• Ejemplo de pregunta: Si tuvieras que explicar la IA a un amigo que no la conoce, ¿qué palabras o dibujos usarías?
  Objetivo: Aprendizaje colaborativo y comunicación
• Ejemplo de pregunta: ¿Cómo crees que se puede usar la IA en las escuelas del futuro para aprender de forma divertida?
  Objetivo: Imaginación y diseño del aprendizaje

Conclusión: Preparar para dentro de 10 años y elegir hoy

¿Qué tipo de futuro deberíamos buscar? Es una oportunidad para pensar en el impacto que la IA tendrá en nuestras vidas y aprovecharlo en nuestras decisiones cotidianas. ¿Qué futuro has imaginado? Por favor, compártelo en redes sociales o en los comentarios.