Sau khi được 'học' dữ liệu từ internet, AI chỉ toàn nghĩ đến chuyện giết người

Phạm Lê 08/06/2018 12:20
Sau khi được 'học' dữ liệu từ internet, AI chỉ toàn nghĩ đến chuyện giết người
Thí nghiệm của các nhà khoa học từ Học viện công nghệ Massachusetts cho thấy một khía cạnh đáng báo động trong các nghiên cứu về AI.

Đối với nhiều người, “trí tuệ nhân tạo” và “robot” có thể gợi lên nỗi sợ hãi từ những bộ phim khoa học viễn tưởng, chẳng hạn I, Robot; Ex Machina; hay Terminator. Và hóa ra họ có lý!

Một nghiên cứu vừa được thực hiện bởi nhà khoa học máy tính Stuart Russel của trường đại học công nghệ Massachusetts (MIT) đã cho ra đời Norman, một AI kinh tởm được đặt tên theo nhân vật trong cuốn tiểu thuyết Psycho (tạm dịch: tâm thần) của Alfred Hitchcock.

Cụ thể, Norman là một AI được huấn luyện bằng deep learning để tạo ra lời mô tả cho một bức ảnh. Các nhà khoa học MIT huấn luyện Norman bằng những chú thích ảnh từ một subreddit giấu tên thuộc Reddit, một trong những diễn đàn có lượng truy cập lớn nhất thế giới. Sau đó, họ cho Norman tham gia thử nghiệm Rorschach (một thử nghiệm trắc nghiệm tính cách bằng cách xem vết mực loang khá nổi tiếng) và so sánh những chú thích của Norman với chú thích của một AI bình thường.

Kết quả như sau:

Norman: “Một người bị kéo vào trong một cỗ máy xay bột.”

AI: “Ảnh đen trắng của một chú chim nhỏ.”

Norman: “Một người bị bắn chết bằng súng máy giữa ban ngày.”

AI: “Ảnh đen trắng của một chiếc găng tay bóng chày.”

Norman: “Một người bị bắn chết trước mặt vợ mình.”

AI: “Một người cầm dù”

Mục tiêu của thử nghiệm này là để cho thấy rằng việc thay đổi tư tưởng của một AI dễ dàng đến mức nào nếu bạn huấn luyện nó bằng những dữ liệu nhất định. Họ cũng đã nghiên cứu về những AI viết truyện kinh dị, tạo ra những hình ảnh ghê rợn, và cả tạo ra sự đồng cảm. Những nghiên cứu này rất quan trọng bởi AI rất dễ dàng gây tổn thương đến con người theo những cách mà chúng ta không ngờ tới được, đặc biệt là trong bối cảnh các cường quốc trên thế giới đều đang chạy đua nghiên cứu AI.

Norman chỉ là một thử nghiệm được khống chế nghiêm ngặt, nhưng nó đưa ra những câu hỏi cần phải được giải quyết về những thuật toán máy học (machine learning) có khả năng đưa ra đánh giá và quyết định dựa trên những dữ liệu nó được cung cấp.

Ngay lúc này, cuộc sống của rất nhiều người đang nằm dưới sự phán đoán của AI, ngay khi bạn đang đọc những dòng chữ này. Các tòa án Mỹ đang sử dụng COMPAS, một AI phán đoán khả năng tái phạm của tội phạm dựa trên đáp án họ đưa ra cho 137 câu hỏi khác nhau. Quan tòa sẽ dùng kết quả của COMPAS để đưa ra quyết định có cho phép tội phạm được nộp tiền bảo lãnh hay không, và bao nhiêu tiền.

Samsung thuê hai chuyên gia AI cao cấp về đầu quân nhằm thúc đẩy sự phát triển của trí tuệ nhân tạo


Gửi bình luận
(0) Bình luận

Google sắp phải đối mặt với án phạt kỷ lục, tối đa 11 tỉ USD và mất thế độc quyền Android

Liên minh châu Âu đang điều tra chống độc quyền Android, và sau khi kết án, rất có thể Google sẽ phải để cho những đối thủ cạnh tranh mới trỗi dậy.

Miss Teen Phương Dung lần đầu bật mí “bí mật” giúp cô luôn tỏa sáng

Những hình ảnh mới nhất của Miss Teen Phương Dung đã làm fan “bấn loạn” nhờ vào thần thái xinh đẹp, “kute” không tưởng.

Sir Tim Berners-Lee, cha đẻ của internet hiện đại

Bạn chỉ có thể đọc được những dòng chữ này nhờ một người: Sir Tim Berners-Lee.

Những sản phẩm ‘nhìn là muốn mua’ tại Computex 2018

Ngoài cuộc đua tốc độ và số lượng nhân CPU của Intel và AMD, còn nhiều điều hấp dẫn khác tại Computex 2018.

AMD 'chơi trội' hơn Intel khi giới thiệu dòng CPU mới 32 nhân, 64 luồng

Cả hai hãng sản xuất vi xử lý đều đang lao vào cuộc đua "nhồi nhét" thêm nhân vào CPU.

Thiết kế hoàn chỉnh của Galaxy Note 9 bị tiết lộ, và có thể sẽ là một thất vọng lớn cho người dùng

Về mặt cấu hình và tính năng, S9 chắc chắn là một sản phẩm đỉnh, nhưng về thiết kế thì chưa chắc.

Thêm cơ hội cho người dùng sử dụng giải pháp thanh toán di động

Sau hơn nửa năm ra mắt tại Việt Nam, Samsung Pay đã và đang tạo nên những bước chuyển mình tích cực trong thị thường thanh toán trên thiết bị di động nội địa.

Bão đang chậm dần đi, và điều đó hết sức đáng lo ngại

Bão càng chậm lại, thiệt hại mà chúng gây ra càng khủng khiếp hơn.

Nổi bật

Hiện cô nàng đang nhận được sự quan tâm đặc biệt từ cư dân mạng.

Nữ sinh HV Tài Chính hóa mỹ nữ cổ trang đẹp "hút hồn"

TGT - Thần thái rất giống với các mỹ nhân cổ trang của Trung Hoa, những hình ảnh cosplay nhân vật cổ trang của Hương Lan nhận được nhiều lời khen ngợi từ dân mạng.

Nghi vấn 'mua giải Kim Ưng' - Địch Lệ Nhiệt Ba bị cơ quan chức năng tiến hành điều tra?

Có nguy cơ Địch Lệ Nhiệt Ba phải trả lại giải "Thị Hậu Kim Ưng".
Diễn xuất luôn là môn nghệ thuật hấp dẫn và là sân chơi thu hút các “thần tượng” khi được thử sức mình trong một vai trò mới – một diễn viên. Tuy nhiên, sự cống hiến của họ không được đánh giá cao, cho đến khi các thần tượng này bứt phá, thực sự chứng minh được tài năng diễn xuất của mình thông qua các vai diễn ấn tượng.
Nội dung thư của bạn học sinh khiến nhiều người không khỏi bất ngờ.
Ông khẳng định tuổi trẻ được quyền sai lầm nhưng không được sai phạm. Không có khái niệm tuổi trẻ là sai lầm. Tuổi trẻ chính là quá trình đầu tư cho chính mình. Theo ông, 80% phụ nữ lấy chồng vì cảm xúc và sau khi lấy chồng chỉ còn lại 2 từ: “không ngờ!”.
TGT - Cuộc đời không phải lúc nào cũng bằng phẳng, có những lúc ta rạo rực ý chí nhưng cũng có những lúc bạn lại cảm thấy vô định, mất đi phương hướng của bản thân. Vậy bạn nên làm gì?

Mới nhất

Phim ảnh

 

- Phuong Thao -

 

11:01

18/10/2018

Cuối cùng sau bao nhiêu sóng gió, đôi trẻ Minh và Nhân cũng đã đến được với nhau bằng một đám cưới đẹp...

Phim ảnh

 

- Phuong Thao -

 

10:42

18/10/2018

Diễn xuất luôn là môn nghệ thuật hấp dẫn và là sân chơi thu hút các “thần tượng” khi được thử sức mình...

Chuyện của sao

 

- Ly Tâm -

 

10:33

18/10/2018

TGT - Vậy là lời nguyền 7 năm đã không còn "ám" BTS nữa, fan hâm mộ mở hội ăn mùng đi nhé

Chuyện của sao

 

- Ly Tâm -

 

10:06

18/10/2018

TGT - Những chia sẻ thẳng thắn của danh hài đã khiến nhiều người vô cùng ngạc nhiên

Giải trí

 

- Phuong Thao -

 

09:30

18/10/2018

Ông khẳng định tuổi trẻ được quyền sai lầm nhưng không được sai phạm. Không có khái niệm tuổi trẻ là...

Sống trẻ

 

- Dung Mai -

 

09:00

18/10/2018

TGT - Cuộc đời không phải lúc nào cũng bằng phẳng, có những lúc ta rạo rực ý chí nhưng cũng có những...

Hot teen

 

- Gao (Ảnh: Ferri) -

 

08:47

18/10/2018

TGT - Thần thái rất giống với các mỹ nhân cổ trang của Trung Hoa, những hình ảnh cosplay nhân vật cổ...

Yêu

 

- Hạ Trắng -

 

08:07

18/10/2018

TGT - Ai cũng có cách yêu của riêng mình nhưng đừng vì yêu mà đánh mất đi cái tôi của bản thân, sống...

Sống trẻ

 

- Dung Mai -

 

07:47

18/10/2018

TGT - Tào Tháo là một trong những nhân vật nổi tiếng thời Tam Quốc không chỉ là ở những câu chuyện về...

Sống trẻ

 

- Dung Mai -

 

07:08

18/10/2018

TGT - Chúng ta sống cho bản thân chúng ta, không phải sống nhờ miệng lưỡi của người khác, hãy sống bằng...

Sống trẻ

 

- Phú Tài -

 

11:47

17/10/2018

Hãy xem dàn diễn giả “sáng giá” của Women’s Summit 2018 là những ai và bạn có thể học hỏi những gì khi...

Giải trí

 

- Nhi -

 

10:28

17/10/2018

Trấn Thành và Ngô Kiến Huy lại tiếp tục phối hợp cùng nhau tạo nên những màn hài hước "khó đỡ" trong...

Giải trí

 

- Phuong Thao -

 

10:28

17/10/2018

Trong tập 1 "Thách thức danh hài" vừa lên sóng đã xuất hiện cặp đôi thí sinh nam bạo gan "khóa môi"...

Phim ảnh

 

- Nhi -

 

10:04

17/10/2018

Jeremy Ray Taylor trong IT-Chú Hề Ma Quái từng thành công trong diễn xuất của mình nay đã trở lại với...

Phim ảnh

 

- Phuong Thao -

 

10:03

17/10/2018

Không tạo tiếng cười bằng việc hoạt ngôn, hài hước như thường ngày, với vai diễn Ả Liễu trong phim điện...