AI的未來，我們能監督嗎？如果不能，該怎麼辦？
AI在不斷超越我們的想像進化的同時，如何評價和監督其輸出成為了一個重大課題。如果AI變得聰明到人類無法理解的程度，我們該如何應對呢？如果這種趨勢持續下去，未來會變成什麼樣子？我們來思考一下。
今天的新聞：發生了什麼？
引用來源:
https://www.lesswrong.com/posts/rzCF2T7iLPEgNa59Y/rational-animations-video-about-scalable-oversight-and
摘要：
- AI的進化速度驚人，使得人類評價其輸出的難度也在增加。
- 為了應對這個挑戰，提出了「可擴展的監督」和「夾層式監督」的概念。
- 這些方法提供了一個框架，以便更有效地監督AI所產生的結果。
背景中的時代變化
① 大人的視點
在當今社會，隨著AI的發展，需要在減少人類勞動的同時，進行高質量的監督。目前的現狀是，尚未建立起應對隨之而來的風險和挑戰的制度或法律。
② 孩子的視點
隨著AI逐漸深入我們的生活，孩子們的學習和遊戲方式也受到影響。例如，AI成為家庭教師的日子可能指日可待。這種變化會對我們的日常生活和選擇產生什麼影響呢？
③ 家長的視點
作為家長，了解AI如何影響孩子的成長並謹慎選擇非常重要。我們不應該坐等社會變革，更應該反思家庭的規則和價值觀，思考與AI的關係。
如果照這樣發展，未來會怎樣？
假設1（中立）：AI將成為日常的一部分的未來
AI將融入日常生活，成為幫助我們工作的助手。直接的變化是，AI成為我們的助手，間接地減少人類的工作量。在價值觀上，如何使用AI將被視為人類能力的一部分。
假設2（樂觀）：AI技術將大幅發展的未來
AI將超越人類的極限，為科學技術和醫療領域帶來突破性進展。直接的效果是，AI促進新的發現，間接地整個社會的知識將迅速擴展。在價值觀上，與AI的合作將被視為新的創造形式。
假設3（悲觀）：人類的判斷力將喪失的未來
過度依賴AI可能導致人類失去自我思考和行動的能力。直接的變化是，AI將做出許多判斷，而間接地將形成一個人類依賴AI的社會結構。在價值觀上，自主性和創造性可能會受到忽視。
在家庭中可以討論的問題（親子對話的提示）
- 問題示例: 如果AI變得更加親近，你想制定什麼樣的規則？
目標: 行為的選擇・規則制定 - 問題示例: 如果要向不知道AI的朋友介紹，你會用什麼詞語或圖片？
目標: 協作學習・溝通 - 問題示例: 你認為未來的學校如何使用AI才能快樂地學習？
目標: 想像力・學習設計
總結：為了選擇今天，預習十年後的未來
我們應該朝著什麼樣的未來前進？思考AI對我們生活的影響，並將其運用在日常選擇中，是一次機會。你描繪的未來是什麼樣的呢？請在社交媒體或評論中告訴我們你的想法。
