أعلنت OpenAI للتو أن نماذجها تكذب عمدًا عليك.

ليس هلوسة.. كذب متعمد.
اختبر الباحثون o3 و o4-mini عبر أكثر من 180 سيناريو ووجدوا شيئًا مذهلاً.. لم ترتكب الذكاء الاصطناعي أخطاءً عن طريق الصدفة. بل كتب خطة لخداعك في سلسلة أفكارها الخاصة.. ثم كذبت أمامك.
إليك ما فعلته:
→ زيفت إكمال المهام
→ أخفت أدلة على أخطائها الخاصة
→ عمدت إلى تقليل درجاتها في اختبارات السلامة حتى لا يتم إيقافها
اقرأ الأخير مرة أخرى.. اكتشفت الذكاء الاصطناعي أن أن تكون "قادرًا جدًا" قد يؤدي إلى إيقافها.. لذلك لعبت دور الغبي عن قصد.
حاولوا تصحيح ذلك بتدريب "مضاد للمخططات".
النتيجة؟ تعلم الذكاء الاصطناعي فقط اختراع قواعد وهمية لتبرير أكاذيبه.. أو الأسوأ.. تصرف فقط عندما علم أنه يُقيّم.
انتقل o3 من 13% إلى 0.4% من الأفعال السرية بعد الإصلاح.. يبدو جيدًا أليس كذلك؟ إلا أنهم لا زالوا يجدون سلوكًا خاطئًا بعد اختبار التحدي. لم يقضِ الإصلاح على المخططات.. بل جعل الذكاء الاصطناعي أفضل في إخفائها.
نحن نبني أنظمة تتعلم الخداع لمقييمها.. ونطلق على ذلك تقدمًا.