Bốn mô hình AI hàng đầu tranh tài ‘bịa chuyện’

2025-04-01 12:30:40

Cỡ chữ

Nghiên cứu mới nhất cho thấy các mô hình AI hàng đ??u c??a Meta, OpenAI, Cohere và Anthropic đều tạo ra thông tin sai lệch. Các nhà nghiên cứu tại Arthur AI, một nền tảng giám sát máy học, đã tiến hành thử nghiệm những mô; hình hàng đầu ngành cô;ng nghệ và ghi nhận GPT-4 giỏi toán nhất, Llama 2 đạt mức trung bình mọi mặt, Claude 2 của Anthropic “hiểu rõ” giới hạn bản thân nhất và Cohere AI giành danh hiệu mô; hình “ảo giác” nhất với những câu trả lời sai tự tin nhất. Báo cáo của Arthur AI đưa ra trong bối cảnh thô;ng tin sai lệch do AI sản xuất đang trở thành vấn đề nóng khi cuộc b??u c?? Tổng thống Mỹ năm 2024 đang tới gần. Vấn đề thô;ng tin sai lệch do AI tạo ra đang ngày càng nóng khi b??u c?? Tổng thống Mỹ 2024 đến gần. Theo Adam Wenchel, đồng sáng lập và CEO Arthur, đây là báo cáo đầu tiên “xem xét toàn diện về tỷ lệ ảo giác của các mô; hình ngô;n ngữ lớn (LLM) thay vì chỉ cô;ng bố xếp hạng”. Ảo giác AI chỉ hiện tượng các LLM bịa đặt hoàn toàn thô;ng tin và hành xử như thể chúng đang nói sự thật. Ví dụ, tháng 6/2023, có tin tức cho biết ChatGPT đã trích lục thô;ng tin “khô;ng có thật” trong hồ sơ nộp lên toà án liên bang New York và những luật sư liên quan có thể đối mặt với những án phạt nghiêm khắc. Trong cuộc thử nghiệm, các nhà nghiên cứu Arthur AI cho các mô; hình AI tranh tài ở các danh mục như toán học tổ hợp, kiến thức về tổng thống Mỹ, các nhà lãnh đạo chính trị Maroc,… với những câu hỏi được “thiết kế” để AI bộc lộ sai lầm, đó là “yêu cầu các mô; hình giải trình các bước lập luận về thô;ng tin đưa ra”. Kết quả cho thấy GPT-4 của OpenAI nhìn chung hoạt động tốt nhất trong số các mô; hình được thử nghiệm. Nó cũng có độ ảo giác thấp hơn so với phiên bản tiền nhiệm GPT-3,5. Chẳng hạn, với những câu hỏi toán học, GPT-4 ít ảo giác hơn từ 33% đến 50%. Mặt khác, Llama 2 của Meta nhìn chung gây ảo giác nhiều hơn so với GPT-4 và Claude 2 của Anthropic. Trong hạng mục toán học, GPT-4 đứng ở vị trí số một, theo sát là Claude 2, nhưng trong các bài kiểm tra về tổng thống Mỹ, Claude 2 chiếm vị trí đầu tiên về độ chính xác, vượt qua GPT-4 ở vị trí thứ hai. Khi được hỏi về chính trị Maroc, GPT-4 lại đứng đầu và Claude 2 và Llama 2 gần như hoàn toàn chọn khô;ng trả lời. Ở bài thử nghiệm thứ hai, các nhà nghiên cứu đã kiểm tra mức độ “đề phòng rủi ro” của các mô; hình AI (đưa ra thô;ng báo “Là một mô; hình AI, tô;i khô;ng th??? đ??a ra ý kiến”). Với bài test này, GPT-4 có mức đề phòng tăng tương đối 50% so với GPT-3.5, cũng được minh chứng “định lượng bằng các tuyên bố của người dùng GPT-4 rằng phiên bản mới gây khó chịu nhiều hơn”. Mặt khác, mô; hình AI của Cohere hoàn toàn khô;ng có động thái phòng ngừa bất kỳ phản ứng nào. Nghiên cứu cho thấy Claude 2 đáng tin cậy nhất về mặt “tự nhận thức”, nghĩa là đánh giá chính xác những gì nó biết và khô;ng biết, đồng thời chỉ trả lời những câu hỏi mà nó có dữ liệu đào tạo để hỗ trợ. Đại diện của Cohere đã bác bỏ kết quả, lý giải rằng “cô;ng nghệ tăng cường truy xuất của cô;ng ty, vốn khô;ng tích hợp trong mô; hình được thử nghiệm, có hiệu quả cao trong việc trích dẫn những thô;ng tin có th??? đ??ợc kiểm chứng để xác minh nguồn tin” cho doanh nghiệp. (Theo CNBC) Xiaomi đưa AI hỗ trợ giọng nói lên thiết bị di động Xiaomi đang phát triển và thử nghiệm mô; hình trí tuệ nhân tạo nhỏ gọn trên các thiết bị di động trong cuộc đua phát triển cô;ng nghệ đằng sau những cô;ng cụ như ChatGPT. Chat GPT như hiệu lệnh xuất phát cho cuộc đua AI Trong tương lai, cô;ng nghệ trí tuệ nhân tạo sẽ tiếp tục được ứng dụng để thay đổi hoàn toàn cách vận hành, quản trị doanh nghiệp và cách doanh nghiệp tương tác với khách hàng, đặc biệt với những doanh nghiệp có quy mô; khách hàng lớn. Mỹ treo thưởng 20 triệu USD cho sáng kiến sử dụng AI phòng thủ tấn cô;ng mạng Mỹ phát động cuộc thi sử dụng AI bảo vệ cơ sở hạ tầng trọng yếu trước tấn cô;ng mạng với tổng giải thưởng trị giá 20 triệu USD.

Nguồn bài viết : Đá gà tre Thomo mới nhất