के हुन् AI ह्यालुसिनेसनहरू?

AI ह्यालुसिनेसन त्यस समय हुन्छ जब एक मोडेल गलत, बनावटी, वा प्रमाणद्वारा समर्थित नभएको जानकारी उत्पन्न गर्छ र त्यसलाई तथ्यको रूपमा प्रस्तुत गर्छ। मानिसहरूको त्रुटि जस्तै, जहाँ हामी भन्छौ "म निश्चित छैन", AI मोडेलहरू आत्मविश्वासी ध्वनि उत्पन्न गर्छन् भएता पनि त्यसको सटीकता हुन्छ वा हुन्न।

ह्यालुसिनेसन किन हुन्छन्

AI मोडेलहरू प्रशिक्षणको क्रममा सिकेका प्याटर्नको आधारमा के शब्द आउँछन् त्यो अनुमान गरेर पाठ उत्पन्न गर्छन्। तिनीहरू तथ्यहरूको डेटाबेसमा प्रवेश गर्दैनन् - तिनीहरू संभावित ध्वनि अनुक्रम उत्पन्न गर्छन्। जब प्याटर्न मिलाउने काम गलत किन्तु आत्मविश्वासी आउटपुट उत्पन्न गर्छ, त्यो ह्यालुसिनेसन हो।

मोडेलहरू सुसंगतता र संभावनाको लागि अनुकूलन गरिन्छन्, सत्य नभएर। त्यसको भित्री "म निश्चित छैन" संकेत हुँदैन। "के तपाईं निश्चित हुनुहुन्छ?" जस्ता प्रश्न सोध्दा पनि त्यसै गलतीको पुनरावृत्ति हुन्छ।