Майбутнє ШІ: чи можна його контролювати? Якщо ні, то що далі?

ШІ продовжує еволюціонувати за межами нашої уяви, і одне з великих завдань полягає в тому, як оцінювати та контролювати його результати. Якщо ШІ стане настільки розумним, що люди не зможуть його зрозуміти, то як нам потрібно буде реагувати? Давайте подумаємо, що станеться, якщо цей процес триватиме.

Сьогоднішні новини: що відбувається?

Джерело:
https://www.lesswrong.com/posts/rzCF2T7iLPEgNa59Y/rational-animations-video-about-scalable-oversight-and

Резюме:

• Еволюція ШІ відбувається дуже швидко, і це може ускладнити оцінку його виходу людьми.
• Концепції “масштабованого контролю” та “сендвічування” запропоновані для вирішення цієї проблеми.
• Ці методи забезпечують структуру для більш ефективного контролю результатів, які генерує ШІ.

Зміни епохи

① Погляд дорослих

У сучасному суспільстві існує потреба в способах здійснення контролю якості, зменшуючи людські зусилля разом з еволюцією ШІ. Хоча ми користуємося зручностями, які приносить технологічний прогрес, досі не створені системи та закони для реагування на супутні ризики та проблеми.

② Погляд дітей

Зі все більшою присутністю ШІ в нашому житті, змінюється спосіб навчання та гри дітей. Наприклад, день, коли ШІ стане репетитором, може бути не таким далеким. Які впливи цей процес матиме на нашу повсякденність та вибір?

③ Погляд батьків

Як батькам, важливо зрозуміти, як ШІ вплине на розвиток наших дітей, і ретельно обирати його використання. Замість того, щоб чекати зміни в суспільстві, важливо переглянути правила та цінності в родині і подумати, як взаємодіяти з ШІ.

Що станеться, якщо ми підемо цим шляхом?

Гіпотеза 1 (нейтральна): Співіснування з ШІ стане нормою

ШІ стане невід’ємною частиною повсякденного життя, допомагаючи в роботі та навчанні. Як безпосередня зміна, ШІ функціонуватиме як наш помічник, що, в свою чергу, зменшить нашу роботу. У світогляді, як ми використовуємо ШІ, стане частиною наших здібностей.

Гіпотеза 2 (оптимістична): Великий прогрес у технологіях ШІ

ШІ перевершить людські можливості, приносячи революційні досягнення в науці та медицині. Безпосередньо, ШІ стимулюватиме нові відкриття, в результаті чого знання суспільства різко зростуть. В цінностях, співпраця з ШІ буде сприйматися як нова форма творчості.

Гіпотеза 3 (песимістична): Втрата людського судження

Надмірна залежність від ШІ може призвести до втрати здатності людей мислити та діяти самостійно. Як безпосередня зміна, ШІ почне приймати більше рішень, в результаті чого формується суспільна структура, де людина залежить від ШІ. У світогляді, може з’явитися тенденція нехтувати автономією та креативністю.

Питання для обговорення в сім’ї (поради для діалогу між батьками та дітьми)

• Приклад питання: Які правила ти б хотів встановити, якщо ШІ стане ближчим до нас?
  Мета: Вибір дій, створення правил
• Приклад питання: Якщо б ти мав розповісти про ШІ друзям, які слова чи малюнки ти б використав?
  Мета: Співпраця у навчанні, комунікація
• Приклад питання: Як ти думаєш, що потрібно зробити, щоб ШІ був корисним у майбутній школі і навчання було веселим?
  Мета: Уява, дизайн навчання

Висновок: Як підготуватися на 10 років наперед, щоб приймати рішення сьогодні

Яке майбутнє ми повинні прагнути? Ця можливість задуматись про вплив ШІ на наше життя та врахувати це під час повсякденних виборів. Яке майбутнє ви собі уявили? Поділіться своїми думками в соціальних мережах або в коментарях.