Định nghĩa Trí tuệ AI Tập thể

Trí tuệ AI tập thể (CAI) là thực hành kết hợp lý luận độc lập của nhiều mô hình AI để đạt được sự hiểu biết đáng tin cậy hơn, được hiệu chỉnh tốt hơn so với bất kỳ mô hình đơn lẻ nào cung cấp một mình. Thay vì hỏi một mô hình cho một câu trả lời, CAI hỏi một số mô hình cùng một câu hỏi, để mỗi mô hình xây dựng một trường hợp có cấu trúc, và sau đó để mọi mô hình đánh giá lập luận của mọi mô hình khác. Đầu ra không phải là một phán quyết đơn lẻ—mà là một bản đồ nơi các hệ thống độc lập đồng ý và nơi chúng khác biệt.

Vấn đề với một Mô hình Đơn lẻ: Sai một cách Tự tin

Một mô hình AI đơn lẻ không có "Tôi không biết" tích hợp. Nó luôn tạo ra đầu ra trôi chảy, tự tin—ngay cả khi nó đang bịa đặt. Ví dụ cảnh báo được trích dẫn nhiều nhất là Mata v. Avianca (2023), nơi một luật sư đã nộp một tài liệu tòa án liên bang trích dẫn một số quyết định tư pháp mà ChatGPT đã hoàn toàn bịa đặt. Các trích dẫn trông có vẻ thật. Mô hình rất tự tin. Không có ý kiến thứ hai trong vòng để phát hiện ra điều đó.

Cách Nhiều LLM Tạo ra Sự Đồng thuận

Nhận thức cốt lõi là các mô hình khác nhau thất bại khác nhau. Khi một số mô hình độc lập lý luận về cùng một tuyên bố, lỗi của chúng hiếm khi trùng khớp—do đó một sai lầm của một mô hình thường là một ngoại lệ mà các mô hình khác mâu thuẫn. Đây là ý tưởng đứng sau mẫu "Hội đồng LLM" mã nguồn mở của Andrej Karpathy, nơi nhiều mô hình trả lời độc lập và sau đó xếp hạng phản hồi của nhau. Argumentree.AI mở rộng mẫu này với các cây lập luận có cấu trúc và đánh giá lẫn nhau ẩn danh giữa tất cả các mô hình có sẵn.

Điểm Số Đồng thuận: Từ Đa số đến Đoàn kết

Điểm số đồng thuận định lượng mức độ mà các mô hình đồng ý về một lập luận nhất định—từ đa số tối thiểu đến sự đồng thuận hoàn toàn. Nguyên tắc thiết kế quan trọng nhất là chống làm phẳng: sự bất đồng không bao giờ bị trung bình hóa. Một vị trí thiểu số mà hầu hết các mô hình từ chối vẫn giữ được sự rõ ràng, vì một ngoại lệ được lý luận tốt thường chính là lập luận đáng được xem xét kỹ lưỡng hơn của con người.

Phát hiện Ảo giác qua Sự Bất đồng

Bởi vì các mô hình độc lập hiếm khi bịa đặt cùng một điều, một ảo giác thường xuất hiện như một lập luận bị đánh giá thấp, bị tranh cãi thay vì một sự đồng thuận mượt mà. Do đó, sự bất đồng là một tín hiệu phát hiện: nó chỉ ra cho bạn những tuyên bố có khả năng sai nhất. Lưu ý về tri thức—CAI mạnh trong việc đánh dấu các vấn đề thông qua sự bất đồng, và nó không không tuyên bố rằng sự đồng ý chứng minh một tuyên bố là đúng.

Các Trường hợp Sử dụng

Trí tuệ AI tập thể phù hợp với bất kỳ quy trình làm việc nào mà một câu trả lời tự tin đơn lẻ là rủi ro: nghiên cứu và xem xét tài liệu, kiểm tra sự thật, thẩm định, phân tích cạnh tranh, và các quyết định có tính rủi ro cao nơi bạn cần biết mức độ tranh cãi của một tuyên bố—không chỉ là những gì một mô hình nói. Trong mọi trường hợp, đầu ra có giá trị cao nhất là tập hợp các điểm mà các mô hình bất đồng và việc xem xét của con người nên tập trung.