OpenAI treo thưởng 1 triệu USD cho ý tưởng quản lý AI

Trong thông báo ngày 25.5, OpenAI cho biết sẽ trao 10 khoản tài trợ trị giá 100.000 USD cho 10 ý tưởng giúp tìm ra cách quản lý phần mềm AI để giải quyết sự thành kiến và các yếu tố khác, theo Reuters.

Các khoản tài trợ sẽ được trao cho những nghiên cứu hấp dẫn, giúp trả lời các câu hỏi khó như liệu AI có nên chỉ trích các nhân vật của công chúng, và nó nên coi ai là người trung dung.

“Các hệ thống AI nên mang lại lợi ích cho toàn nhân loại và được định hình để mang tính bao hàm nhất có thể. Chúng tôi đang khởi động chương trình tài trợ này như là bước đầu tiên trong hướng đi này”, OpenAI thông báo.

Các vấn đề về AI đang thu hút sự quan tâm của dư luận

Công ty có trụ sở tại thành phố San Francisco (Mỹ) nói rằng khoản tài trợ có thể ảnh hưởng đến quan điểm của OpenAI trong việc quản lý AI nhưng cũng lưu ý là không có đề xuất nào mang tính ràng buộc.

Các khoản tài trợ của OpenAI được đánh giá là không quá lớn trong việc nghiên cứu AI. Theo Reuters, kỹ sư AI và một số công việc khác trong ngành đang thịnh hành này có thể dễ dàng kiếm được mức lương 100.000 USD mỗi năm và có thể vượt mức 300.000 USD.

Những người chỉ trích cho rằng các hệ thống AI như ChatGPT có quan điểm thành kiến, gây ra bởi thông tin mà nó tiếp nhận. Trong quá trình tương tác, những người sử dụng đã phát hiện ra các câu trả lời mang tính phân biệt chủng tộc hoặc phân biệt giới tính từ các phần mềm AI.

Xem thêm   Ai sẽ "giải cứu" HLV Lê Huỳnh Đức tại B.Bình Dương?

Điều đó đặt ra lo ngại ngày càng lớn là khi AI được sử dụng thay cho các công cụ tìm kiếm như Google của Alphabet hay Bing của Microsoft, nó có thể cho ra những thông tin không chính xác nhưng theo cách hết sức thuyết phục.

Gần như mọi lĩnh vực đều đang quan tâm đến tiềm năng của AI để cải thiện năng suất và giảm chi phí lao động. Tuy nhiên, đi cùng với đó là những lo ngại rằng AI có thể lan truyền thông tin sai lệch và những điều không chính xác nhưng khiến người ta tin. Nhiều vụ việc đã được đưa ra để làm bằng chứng cho điều này. Cụ thể, mạng xã hội gần đây lan truyền một hình ảnh về vụ nổ gần Lầu Năm Góc. Vụ việc gây ảnh hưởng nhất thời đến thị trường chứng khoán nhưng bức ảnh sau đó được xác định là do AI tạo ra.

Theo Reuters, OpenAI là công ty dẫn đầu trong việc kêu gọi quản lý AI. Trong khi đó, công ty cũng đang triển khai các bản cập nhật mới cho ChatGPT và công cụ tạo hình ảnh DALL-E. Trong phiên điều trần tại quốc hội Mỹ vào tháng này, Tổng giám đốc OpenAI Sam Altman nói nếu công nghệ AI bị lỗi, nó có thể gây hậu quả khá lớn.

Microsoft, đã đầu tư 10 tỉ USD cho OpenAI, gần đây cũng ủng hộ việc quản lý toàn diện đối với AI, dù cho tập đoàn tuyên bố sẽ đưa công nghệ này vào các sản phẩm để mang đến cho người sử dụng và doanh nghiệp, cạnh tranh với OpenAI, Google và các công ty khởi nghiệp khác.

Xem thêm   Ván cờ lịch sử giữa con người và 'AI đời đầu'

Nguồn: Báo Thanh Niên

Files 32