7 قواعد ذهبية للتحقق من المعلومات التي يقدمها الذكاء الاصطناعي

أصبح الذكاء الاصطناعي التوليدي وسيلة سريعة للحصول على المعلومات وكتابة النصوص وتحليل البيانات، لكن سهولة الحصول على الإجابة لا تعني بالضرورة صحتها.

فالنماذج اللغوية الكبيرة قد تنتج معلومات خاطئة أو مضللة بصياغة واثقة، وهي ظاهرة تعرف عادة بالهلوسة، حيث يشير المعهد الوطني الأمريكي للمعايير والتكنولوجيا إلى أن هذه المخرجات قد تتضمن حقائق أو استدلالات أو حتى مراجع مختلقة، ما يجعل التحقق البشري خطوة أساسية، خصوصا في القرارات المهمة.

ومن أجل ذلك، يجب على المستخدم أن يتبع بعض الخطوات حتى يكون متأكدا من المعلومات التي يعطيها الذكاء الاصطناعي.

1. ارجع إلى المصدر الأصلي

أولى خطوات التحقق هي عدم التعامل مع إجابة النموذج باعتبارها مصدرا نهائيا، بل نقطة بداية للبحث، فإذا ذكر النموذج دراسة علمية أو تقريرا حكوميا أو تصريحا لمسؤول، ينبغي الوصول إلى الوثيقة الأصلية وقراءة محتواها، بدل الاكتفاء بما نقله النموذج عنها.

حيث تحذر أوبن إيه آي من أن النماذج قد تختلق اقتباسات أو دراسات أو مراجع غير موجودة، ولذلك توصي بالتحقق من المعلومات المهمة والاقتباسات والبيانات والمراجع الخارجية مباشرة.

2. قارن المعلومة بأكثر من مصدر موثوق

وجود مصدر واحد لا يكفي دائما، خصوصا عندما تتعلق المعلومة بموضوع خلافي أو خبر عاجل، حيث يمكن إعادة البحث عن الادعاء نفسه في مصادر مستقلة، ومقارنة ما تقوله المؤسسات الرسمية ووسائل الإعلام الموثوقة والمصادر المتخصصة.

وتكمن أهمية هذه الخطوة في اكتشاف الاختلافات أو الأخطاء التي قد تمر دون ملاحظة عند قراءة إجابة واحدة، كما يوصي المعهد الوطني الأمريكي للمعايير والتكنولوجيا بأن تكون المخرجات قابلة للتحقق، وأن تربط الادعاءات الواردة فيها بالمصادر التي تدعمها.

3. افحص الروابط والمراجع بدل الثقة بها تلقائيا

قد تبدو الإجابة أكثر موثوقية عندما تحتوي على روابط ومراجع، لكن وجود الاستشهاد لا يثبت أن المعلومة صحيحة، حيث ينبغي فتح الرابط والتأكد من أنه موجود فعلا، ثم معرفة الجهة التي نشرته، وتاريخ النشر، وما إذا كان المصدر يقول بالفعل ما نسبه إليه النموذج.

وتشير إرشادات غوغل الخاصة بجيميناي إلى أن ظهور المصادر لا يعني بالضرورة أن الإجابة صحيحة، فقد يفوّت النموذج مصدرا استخدمه، أو يستشهد بمصدر لا يدعم معلومة محددة، بل قد يقدم أحيانا مصدرا مختلقا.

4. تحقق من الأرقام والتواريخ والأسماء بشكل مستقل

الأرقام والتواريخ والأسماء من أكثر التفاصيل التي يمكن اختبارها بسهولة، ولذلك ينبغي التعامل معها باعتبارها نقاط تحقق منفصلة، إذا ذكر النموذج قيمة مالية أو نسبة مئوية أو تاريخ حدث أو اسم دراسة، ابحث عن هذه المعلومة في قاعدة بيانات أو موقع رسمي أو وثيقة أصلية.

وتنبه أوبن إيه آي إلى أن النماذج قد تقدم تعريفات أو تواريخ أو حقائق غير صحيحة، كما أن درجة الثقة في صياغة الإجابة لا تعكس بالضرورة دقتها.

5. انتبه إلى حداثة المعلومات

قد تكون الإجابة صحيحة في وقت سابق لكنها لم تعد محدثة، وتزداد أهمية ذلك في الأخبار والتكنولوجيا والأسواق والقوانين والانتخابات والمنتجات، حيث تتغير المعلومات بسرعة.

وتوضح أوبن إيه آي أن النماذج لا تتضمن تلقائيا الأحداث التي وقعت بعد نقطة البيانات التي تدربت عليها، ما لم تستخدم أدوات توفر معلومات أحدث، لذلك يجب عند التعامل مع موضوع حديث تحديد تاريخ المعلومات، ثم الرجوع إلى مصادر محدثة أو استخدام البحث على الويب عندما يكون متاحا.

6. أعد صياغة السؤال واختبر الإجابة

من الطرق العملية أيضا طرح السؤال مرة أخرى بصياغة مختلفة، أو مطالبة النموذج بتحديد درجة عدم اليقين والتمييز بين الحقائق والاستنتاجات. ويمكن كذلك طلب الأدلة التي يستند إليها كل ادعاء، ثم اختبارها خارجيا.

هذه الطريقة لا تجعل النموذج حكما على نفسه، لكنها تساعد في كشف التناقضات، وقد أظهرت اختبارات بحثية أن النماذج يمكن أن تقدم إجابات مختلفة وخاطئة بثقة، وأن الامتناع عن الإجابة عند عدم اليقين قد يكون أفضل من التخمين.

7. استخدم أدوات التحقق المناسبة لنوع المحتوى

لا تحتاج كل معلومة إلى الطريقة نفسها للتحقق، ففي الحسابات يمكن استخدام آلة حاسبة أو أداة تحليل بيانات، وفي المعلومات العلمية الرجوع إلى الأوراق الأصلية وقواعد البيانات المتخصصة، وفي الصور والفيديوهات يمكن فحص المصدر وبيانات المحتوى أو أدوات إثبات المنشأ.

وتوفر بعض الأدوات الحديثة مؤشرات تساعد على معرفة مصدر المحتوى الرقمي، فمثلا تستخدم غوغل تقنيات مثل معرف التركيب (SynthID) وبيانات اعتماد المحتوى (Content Credentials) للتحقق من إشارات مرتبطة بمحتوى أنشأته أو عدلته نماذج الذكاء الاصطناعي، بينما توفر أوبن إيه آي أداة لفحص بعض إشارات منشأ الصور والملفات الصوتية. لكن غياب هذه الإشارات لا يعني تلقائيا أن المحتوى حقيقي أو غير مولد بالذكاء الاصطناعي.

التحقق مسؤولية المستخدم

القاعدة الأهم هي التعامل مع الذكاء الاصطناعي باعتباره مساعدا في البحث، وليس مرجعا نهائيا للحقيقة، فالنموذج يستطيع اختصار الوقت، واقتراح الأفكار والكلمات المفتاحية والمصادر المحتملة، لكنه قد يخطئ حتى عندما تكون إجابته مقنعة.

لذلك يصبح التحقق أكثر أهمية كلما ارتفعت خطورة المعلومة، فالخطأ في معلومة ترفيهية يختلف عن خطأ في نصيحة طبية أو رقم مالي أو معلومة قانونية أو قرار مهني.

ويؤكد المعهد الوطني الأمريكي للمعايير والتكنولوجيا أن مخاطر المخرجات المختلقة تزداد عندما يعتمد الناس عليها في قرارات ذات آثار حقيقية.

وبذلك لا يتعلق التعامل الآمن مع الذكاء الاصطناعي برفض مخرجاته أو تصديقها بالكامل، بل ببناء عادة بسيطة، وهي اسأل، ثم افحص، ثم قارن، ثم ارجع إلى المصدر الأصلي قبل أن تثق بالمعلومة أو تنشرها.

فالإجابة التي تبدو ذكية ومقنعة ليست بالضرورة إجابة صحيحة، والتحقق البشري يظل الحلقة الأساسية بين قدرة النماذج على إنتاج المعلومات وبين الاعتماد عليها في العالم الحقيقي.