Tương lai của AI, liệu có thể giám sát được không? Nếu không thể thì sao?

Khi AI tiếp tục tiến hóa vượt xa những gì chúng ta tưởng tượng, việc đánh giá và giám sát đầu ra của nó trở thành một thách thức lớn. Nếu AI trở nên thông minh đến mức con người không thể hiểu được, chúng ta nên ứng phó như thế nào? Nếu dòng chảy này tiếp tục, tương lai sẽ ra sao, hãy cùng suy nghĩ.

Tin tức hôm nay: Điều gì đang xảy ra?

Nguồn:
https://www.lesswrong.com/posts/rzCF2T7iLPEgNa59Y/rational-animations-video-about-scalable-oversight-and

Tóm tắt:

• Tiến hóa của AI đang diễn ra nhanh chóng, có thể khiến con người gặp khó khăn trong việc đánh giá đầu ra của nó.
• Khái niệm “giám sát có thể mở rộng” và “sandwiching” đã được đề xuất để giải quyết thách thức này.
• Các phương pháp này cung cấp một khung để giám sát kết quả do AI tạo ra một cách hiệu quả hơn.

Sự thay đổi thời đại phía sau

① Quan điểm của người lớn

Trong xã hội hiện nay, sự tiến hóa của AI yêu cầu cách giám sát chất lượng cao trong khi giảm bớt sức lực của con người. Tuy nhiên, các quy định và luật pháp để ứng phó với các rủi ro và thách thức đi kèm vẫn chưa được thiết lập.

② Quan điểm của trẻ em

Khi AI ngày càng thâm nhập vào cuộc sống của chúng ta, cách học và vui chơi của trẻ em cũng bị ảnh hưởng. Ví dụ, ngày mà AI trở thành gia sư có thể không còn xa. Biến đổi này sẽ có ảnh hưởng gì đến đời sống hàng ngày và sự lựa chọn của chúng ta?

③ Quan điểm của cha mẹ

Với tư cách là cha mẹ, cần hiểu cách AI sẽ liên quan đến sự phát triển của trẻ và cần lựa chọn một cách thận trọng. Thay vì chờ đợi xã hội thay đổi, việc xem xét lại các quy tắc và giá trị trong gia đình, và cách thức tương tác với AI là rất quan trọng.

Nếu cứ tiếp tục như vậy, tương lai sẽ ra sao?

Giả thuyết 1 (trung lập): Tương lai AI trở nên phổ biến

AI sẽ hòa vào cuộc sống hàng ngày, trở thành một trợ lý giúp đỡ công việc và học tập của chúng ta. Sự thay đổi trực tiếp là AI sẽ chức năng như một trợ lý của chúng ta và tác động gián tiếp sẽ là giảm bớt công sức của con người. Về giá trị, cách sử dụng AI sẽ được coi là một phần của năng lực con người.

Giả thuyết 2 (lạc quan): Tương lai công nghệ AI sẽ phát triển mạnh mẽ

AI sẽ vượt qua giới hạn của con người, mang đến những tiến bộ đột phá trong lĩnh vực khoa học và y tế. Trực tiếp, AI sẽ thúc đẩy các phát hiện mới, và tác động gián tiếp sẽ là việc mở rộng kiến thức của toàn xã hội một cách nhanh chóng. Về giá trị, sự hợp tác với AI sẽ được công nhận như một hình thức sáng tạo mới.

Giả thuyết 3 (bi quan): Tương lai con người mất đi khả năng phán đoán

Việc phụ thuộc quá nhiều vào AI có thể khiến con người mất đi khả năng tự suy nghĩ và hành động. Sự thay đổi trực tiếp là AI sẽ đưa ra nhiều quyết định, và tác động gián tiếp sẽ là hình thành một cấu trúc xã hội phụ thuộc vào AI. Về giá trị, xu hướng coi nhẹ tính tự chủ và sáng tạo có thể gia tăng.

Câu hỏi có thể nói ở gia đình (Mẹo đối thoại giữa cha mẹ và con cái)

• Ví dụ câu hỏi: Nếu AI trở nên gần gũi hơn, bạn muốn tạo ra những quy tắc gì?
  Mục tiêu: Lựa chọn hành động, xây dựng quy tắc
• Ví dụ câu hỏi: Nếu bạn phải truyền đạt cho bạn bè chưa biết về AI, bạn sẽ sử dụng từ ngữ hoặc hình ảnh nào?
  Mục tiêu: Học tập hợp tác, giao tiếp
• Ví dụ câu hỏi: Trong tương lai, bạn nghĩ AI sẽ được sử dụng như thế nào ở trường học để học tập vui hơn?
  Mục tiêu: Tưởng tượng, thiết kế học tập

Tóm tắt: Chuẩn bị cho 10 năm tới, để chọn lựa hôm nay

Chúng ta nên hướng tới tương lai nào? Đây là cơ hội để suy nghĩ về ảnh hưởng của AI đến cuộc sống của chúng ta và áp dụng vào các lựa chọn hàng ngày. Bạn đã tưởng tượng ra tương lai như thế nào? Hãy cho chúng tôi biết ý kiến của bạn trên SNS hoặc trong bình luận.