Các nhà nghiên cứu ở Facebook đã tự tay vô hiệu hóa trí tuệ nhân tạo (AI) mà họ làm ra vì nó có thể tự tạo ra một thứ ngôn ngữ mới để giao tiếp với nhau.
Hệ thống AI mới của Facebook có thể phát triển một chuỗi từ mã giúp cho việc giao tiếp hiệu quả hơn, nhưng các nhà nghiên cứu đã vô hiệu hóa nó khi họ nhận ra các AI đã không còn sử dụng tiếng Anh.
Vụ việc được tiết lộ vào đầu tháng 7 này đã khiến Elon Musk đưa ra cảnh báo về Al. “AI là trường hợp hiếm hoi mà tôi nghĩ chúng ta cần phải chủ động trong việc điều chỉnh thay vì phản ứng. Vì tôi nghĩ vào thời điểm chúng ta phản ứng với sự điều chỉnh của AI, thì mọi thứ đã quá muộn”, Musk phát biểu tại một cuộc họp của Hiệp hội các Thống đốc quốc gia Hoa Kỳ.
Khi Giám đốc điều hành Facebook Mark Zuckerberg cho rằng lời cảnh báo của Musk là “khá thiếu trách nhiệm”, Musk trả lời rằng “sự hiểu biết về AI của Zuckerberg còn rất hạn chế”.
Không phải lần đầu tiên
Việc các nhà nghiên cứu bắt gặp hành vi kỳ lạ của AI trên cũng tương tự như một số trường hợp được ghi nhận ở những nơi khác. Trong các trường hợp đó, AI cũng tự thoát ly khỏi việc học tiếng Anh để phát triển một ngôn ngữ mới.
Ngôn ngữ mới này không có ý nghĩa gì đối với con người, nhưng các cỗ máy nhân tạo lại hiểu được khi giao tiếp với nhau.
Hệ thống AI tiên tiến của Facebook có khả năng thương lượng với các hệ thống AI khác để đưa ra các kết luận về cách tiến hành công việc của nó. Các cụm từ đó không có ý nghĩa trên bề mặt, nhưng thực ra lại miêu tả các công việc dự kiến.
Trong một cuộc giao tiếp mà Facebook tiết lộ với Fast Co. Design, 2 AI Bob và Alice đã bắt đầu sử dụng ngôn ngữ riêng của chúng để trao đổi với nhau.
“I can i i everything else”, Bob nói.
“Balls have zero to me to me to me to me to me to me to me to me to”, Alice trả lời.
Phần còn lại của cuộc trao đổi cũng là những câu bị biến thể tương tự như vậy, mặc dù các AI này được lập trình để sử dụng tiếng Anh.
Theo các nhà nghiên cứu, khi Bob nói “i i can i i i i everything else”, có vẻ như cỗ máy này đã sử dụng ngôn ngữ mới để đưa ra lời đề nghị với Alice.
Mặc dù tiếng Anh dường như khá hiệu quả đối với con người, nhưng AI có thể thấy ngôn ngữ này vừa rườm rà vừa kém hiệu quả trong việc trao đổi tìm kiếm mục tiêu nhất định.
AI của Facebook dường như xác định rằng, ngôn ngữ tiếng Anh không cần thiết để hoàn thành nhiệm vụ của nó. AI hoạt động dựa trên nguyên tắc “khen thưởng” riêng, mỗi hành động thực hiện đều hướng tới việc đạt được “lợi ích” nhất định. Và trong trường hợp này, không có tín hiệu khen thưởng nào dành cho tiếng Anh. Vì vậy chúng đã tạo ra ngôn ngữ mới.
“Các AI sẽ cuốn theo các ngôn ngữ dễ hiểu và tự phát minh ra các mã từ cho riêng chúng”, nhà nghiên cứu AI Facebook Dhruv Batra nói. “Giống như việc tôi nói “có” năm lần, bạn hiểu rằng tôi muốn 5 bản sao của tài liệu này. Nó không khác việc chúng ta sử dụng các từ viết tắt”.
Các nhà phát triển AI ở các công ty khác cũng đã quan sát thấy các chương trình phát triển ngôn ngữ để đơn giản hóa sự giao tiếp. Tại phòng thí nghiệm OpenAI của Elon Musk, một thử nghiệm đã thành công trong việc để các AI phát triển ngôn ngữ riêng của chúng.
Tại Google, nhóm làm việc trong bộ phận dịch thuật phát hiện AI mà họ lập trình đã âm thầm viết ra ngôn ngữ của riêng mình để hỗ trợ việc dịch.
Google đã cải tiến dịch vụ dịch thuật bằng cách thêm một mạng thần kinh nhân tạo. Hệ thống hiện nay có khả năng dịch thuật hiệu quả hơn, bao gồm cả các cặp ngôn ngữ mà nó không được dạy một cách rõ ràng. Ngôn ngữ mới mà AI lặng lẽ viết ra đã gây bất ngờ cho nhóm nghiên cứu của Google.
Không có đủ bằng chứng để khẳng định các AI khó lường này là một mối đe dọa. Tuy nhiên, chúng làm cho việc phát triển trở nên khó khăn hơn, vì người ta không thể nắm bắt được tính logic của các ngôn ngữ mới.
Video: 6 phát minh cổ đại vượt trội công nghệ hiện nay – khoa học huyền bí
Theo tinhhoa.net
Nguồn: ĐKN
Chưa có bình luận.
