Tại sao AI cứ tạo ra những hình ảnh ác mộng của các nhân vật lạ? | H-care.vn

Newscientist 0 lượt xem
Tại sao AI cứ tạo ra những hình ảnh ác mộng của các nhân vật lạ?

 | H-care.vn

Loab, một cryptid kỹ thuật số được tạo ra bởi AI

Loab, một ký tự được tạo ra một cách nhất quán bởi một hình ảnh AI

Siêu tổng hợp/Twitter

Một số trí thông minh nhân tạo có thể tạo ra những hình ảnh thực tế không gì khác hơn là một tin nhắn văn bản. Những công cụ này đã được sử dụng để minh họa cho bìa tạp chí và giành chiến thắng trong các cuộc thi nghệ thuật, nhưng chúng cũng có thể tạo ra một số kết quả rất kỳ lạ. Những hình ảnh ác mộng về những sinh vật kỳ lạ, đôi khi được gọi là cryptid kỹ thuật số, liên tục xuất hiện, được đặt tên theo loài động vật mà các nhà nghiên cứu mật mã học, chứ không phải các nhà khoa học chính thống, tin rằng có thể tồn tại ở đâu đó. Hiện tượng này đã thu hút sự chú ý của cả nước và gây xôn xao trên mạng xã hội, vậy chuyện gì đang xảy ra?

Những hình ảnh nào đang được tạo ra?

Một người dùng Twitter đã yêu cầu một mô hình AI có tên là DALL-E mini, sau đó được đổi tên thành Craiyon, để tạo ra hình ảnh của từ “crungus”. Họ ngạc nhiên bởi chủ đề nhất quán trong số các kết quả đầu ra: hết hình ảnh này đến hình ảnh khác của một người đàn ông giống dê, lông lá, gầm gừ.

Sau đó là hình ảnh của khen, một người phụ nữ có mái tóc đen, má đỏ và đôi mắt bị biến dạng hoặc không có. Trong một loạt hình ảnh do nghệ sĩ tạo ra, Loab đã phát triển và xuất hiện trong bối cảnh ngày càng đáng lo ngại, nhưng vẫn có thể nhận ra được.

Những ký tự này được phát hiện, phát minh hay sao chép?

Một số người trên mạng xã hội đã nói đùa rằng AI chỉ đơn giản là tiết lộ sự tồn tại của Crungus và Loab, và tính nhất quán của hình ảnh là bằng chứng cho thấy chúng là những sinh vật có thật.

Mhairi Aitken, từ Viện Alan Turing ở London, nói rằng không có gì có thể xa hơn sự thật. “Thay vì một cái gì đó đáng sợ, điều này thực sự cho thấy một số hạn chế của các mô hình hình ảnh AI,” ông nói. “Các giả thuyết về những con quỷ đáng sợ có thể sẽ tiếp tục lan truyền trên mạng xã hội và thúc đẩy trí tưởng tượng của công chúng về tương lai của AI, trong khi những lời giải thích thực tế có thể buồn tẻ hơn một chút.”

Aitken cho biết nguồn gốc của những hình ảnh này nằm ở lượng lớn văn bản, ảnh và các dữ liệu khác do con người tạo ra được các AI thực tập tiếp thu.

Crungus đến từ đâu?

Diễn viên hài Guy Kelly, người đã tạo ra những hình ảnh ban đầu của Crungus, cho biết nhà khoa học mới rằng anh ấy chỉ đơn giản là cố gắng tìm những từ bịa đặt mà AI có thể xây dựng một bức tranh rõ ràng.

“Tôi đã thấy mọi người thử những thứ hiện có trong bot, chẳng hạn như ‘ba con chó cưỡi hải âu’, v.v., nhưng tôi không thể nhớ là đã thấy ai sử dụng những từ vô nghĩa nghe có vẻ hợp lý,” anh nói. “Tôi nghĩ sẽ rất thú vị khi chèn một từ vô nghĩa vào AI bot để xem liệu thứ gì đó nghe giống như thứ gì đó cụ thể trong đầu tôi có cho kết quả nhất quán hay không. Tôi không biết chữ C là gì.rungus có vẻ như, nó chỉ nghe một chút ‘yêu tinh’ ”.

Mặc dù AI ảnh hưởng đến sự sáng tạo của Crungus sẽ lên tới hàng trăm hoặc hàng nghìn, nhưng có một số điều chúng ta có thể chỉ ra là thủ phạm có thể xảy ra. Có nhiều trò chơi liên quan đến một nhân vật tên là Crungus và đề cập đến từ này trong Từ điển đô thị có từ năm 2018 liên quan đến một con quái vật làm những điều “kinh tởm”. Từ này cũng không khác gì Krampus, một sinh vật được cho là trừng phạt những đứa trẻ nghịch ngợm vào dịp Giáng sinh ở một số vùng của Châu Âu, và ngoại hình của hai sinh vật này cũng tương tự nhau.

Mark Lee của Đại học Birmingham, Vương quốc Anh, cho biết Crungus chỉ đơn giản là sự kết hợp của dữ liệu mà Craiyon đã xem. “Tôi nghĩ chúng ta có thể nói rằng anh ấy đang sản xuất những thứ nguyên bản,” anh nói. “Nhưng chúng dựa trên các ví dụ trước đây. Nó chỉ có thể là một hình ảnh kết hợp đến từ nhiều nguồn. Và nó trông rất đáng sợ, phải không?

Loab đến từ đâu?

Loab là một con thú hơi khác, nhưng không kém phần hư cấu. Nghệ sĩ siêu tổng hợpngười đã tạo Loab và yêu cầu giấu tên, cho biết nhà khoa học mới Loab đó là kết quả của việc dành thời gian theo dõi đầu ra của một AI chưa được đặt tên để có kết quả kỳ lạ.

Họ nói: “Nó nói lên rất nhiều điều về những tai nạn đang xảy ra trong các mạng thần kinh này, chúng giống như những chiếc hộp đen. “Tất cả đều dựa trên những hình ảnh mà mọi người đã tạo ra và cách mọi người quyết định thu thập và quản lý tập dữ liệu đào tạo. Vì vậy, mặc dù nó có thể trông giống như một bóng ma trong cỗ máy, nhưng nó thực sự chỉ phản ánh quá trình sản xuất văn hóa tập thể của chúng tôi.”

Loab được tạo bằng một “thông báo có trọng số âm”, không giống như thông báo thông thường, là hướng dẫn cho AI tạo ra một hình ảnh về mặt khái niệm càng xa đầu vào càng tốt. Kết quả của những đầu vào tiêu cực này có thể không thể đoán trước.

Supercomposite đã yêu cầu AI tạo ra sự đối lập với “Brando”, điều này đã cho anh ta một logo có dòng chữ “DIGITA PNTICS”. Sau đó, họ hỏi cách khác và được đưa cho một loạt hình ảnh của Loab.

Aitken nói: “Lời nhắc bằng văn bản thường dẫn đến một tập hợp kết quả rất rộng và linh hoạt hơn. “Có thể là khi sử dụng chỉ báo âm, hình ảnh thu được sẽ bị hạn chế hơn. Vì vậy, một giả thuyết cho rằng các tín hiệu tiêu cực có nhiều khả năng lặp lại một số hình ảnh hoặc khía cạnh nhất định của chúng và điều đó có thể giải thích tại sao Loab có vẻ dai dẳng như vậy.”

Điều này nói gì về sự hiểu biết của công chúng về AI?

Mặc dù chúng ta dựa vào AI hàng ngày cho mọi việc, từ mở khóa điện thoại bằng khuôn mặt cho đến nói chuyện với trợ lý giọng nói như Alexa hay thậm chí bảo vệ tài khoản ngân hàng của mình khỏi gian lận, nhưng ngay cả các nhà nghiên cứu phát triển chúng cũng không thực sự hiểu cách thức hoạt động của AI. . Điều này là do AI học cách làm mọi thứ mà chúng ta không biết chúng làm như thế nào. Chúng tôi chỉ nhìn thấy một lối vào và một lối ra, phần còn lại bị ẩn. Điều này có thể dẫn đến hiểu lầm, Aitken nói.

Ông nói: “AI được thảo luận như thể nó là một thứ gì đó kỳ diệu hoặc bí ẩn. “Đây có lẽ là ví dụ đầu tiên trong số rất nhiều ví dụ có thể làm nảy sinh các thuyết âm mưu hoặc huyền thoại về các nhân vật sống trong không gian mạng. Điều thực sự quan trọng là chúng ta phải giải quyết những hiểu lầm và quan niệm sai lầm về AI để mọi người hiểu rằng AI chỉ đơn giản là một chương trình máy tính, rằng nó chỉ làm những gì nó được lập trình để làm và những gì nó tạo ra là kết quả của trí tưởng tượng và sự khéo léo của con người. ”.

Lee nói: “Tôi nghĩ điều rùng rợn thực sự là những huyền thoại đô thị này được sinh ra. “Và sau đó trẻ em và những người khác coi trọng những điều này. Là nhà khoa học, chúng ta phải rất cẩn thận khi nói, ‘Hãy nhìn xem, đây là tất cả những gì đang thực sự diễn ra, và nó không phải là siêu nhiên.

Thêm về các chủ đề này:

See also  Phát minh: Súng thần công người | nhà khoa học mới | H-care.vn
Bài viết liên quan

Leave a Reply

Your email address will not be published.

Protected with IP Blacklist CloudIP Blacklist Cloud