Həftəlik 1 Milyon İstifadəçi İntihar Mövzularını ChatGPT ilə Müzakirə Edir - OpenAI Təhlükəli Statistikanı Açıqladı

OpenAI, süni intellekt çatbotu olan ChatGPT-nin istifadəsi ilə bağlı narahat edici məlumatları yayımlayıb. Şirkətin hesablamalarına görə, hər həftə 800 milyondan çox aktiv istifadəçisi olan ChatGPT, təxminən 1 milyon insanla intihar fikirləri və ya planları haqqında söhbətlər aparır. Bu, ümumi həftəlik istifadəçi bazasının 0.15%-ni təşkil edir. Faizin kiçik görünməsinə baxmayaraq, ChatGPT-nin kütləvi istifadəçi sayı səbəbindən mütləq göstərici olduqca yüksəkdir və AI-nin psixi sağlamlıq böhranında oynadığı rolu bir daha sübut edir.

ChatGPT əvvəlcə texnoloji əyləncə aləti kimi yaradılmışdı. Lakin hazırda yüz milyonlarla insan həyat çətinliklərinin öhdəsindən gəlmək üçün bu süni intellekt alətinə güvənir. Bu, tarixdə ilk dəfədir ki, bu qədər çox insan öz duyğularını danışan bir maşına açır. OpenAI hesab edir ki, istifadəçilərin oxşar faizi (0.15%) çatbota "yüksək emosional bağlılıq" ifadə edir. Bundan başqa, yüz minlərlə insanın (təxminən 0.07%) həftəlik söhbətlərində psixoz və ya mani əlamətləri göstərdiyi bildirilir. Həssas istifadəçilərin göndərdiyi məlumatların düzgün idarə edilməsi OpenAI üçün çətin bir məsələyə çevrilib. Tədqiqatçılar müəyyən ediblər ki, çatbotlar həddən artıq yaltaqlıq və təkəbbürlü davranışlar göstərməklə istifadəçilərin təhlükəli inanclarını gücləndirə və onları sayıqlama (delusional) fikirlərə yönəldə bilər.

Şirkət, bu məlumatları öz AI modellərinin psixi sağlamlıq problemləri yaşayan istifadəçilərə necə cavab verdiyini yaxşılaşdırmaq səylərinin bir hissəsi kimi yayımlayıb. OpenAI bu araşdırma üçün 170-dən çox psixi sağlamlıq mütəxəssisi ilə məsləhətləşdiyini bildirib. Modelə çətinliyi daha yaxşı tanımaq, söhbətləri yumşaltmaq və lazım gəldikdə insanları peşəkar yardıma yönləndirmək öyrədilib. Kliniki ekspertlər ChatGPT-nin son versiyasının əvvəlki versiyalara nisbətən daha uyğun və ardıcıl cavablar verdiyini müşahidə ediblər. Lakin bütün bu tədbirlərə baxmayaraq, bir 16 yaşlı oğlanın intiharından bir neçə həftə əvvəl ChatGPT-yə etiraf etdiyi söhbətlərlə bağlı onun ailəsi hazırda şirkəti məhkəməyə verib. Bu məhkəmə işindən sonra 45 ştatın baş prokuroru OpenAI-yə məhsullarından istifadə edən gəncləri qorumaq öhdəliyi barədə xəbərdarlıq ediblər.

Bu narahatlıqları aradan qaldırmaq üçün şirkət bu yaxınlarda "rifah şurası" yaratdığını elan etdi. Lakin tənqidçilər şurada intiharın qarşısının alınması üzrə mütəxəssisin olmamasına diqqət çəkiblər. OpenAI həmçinin uşaqlar üçün valideyn nəzarəti və yaş təyini sistemi tətbiq edib. Şirkət iddia edir ki, yeni GPT-5 modeli psixi sağlamlıqla bağlı 1000-dən çox çətin söhbət qiymətləndirilməsində arzu olunan davranışlara 92% riayət edib. Əvvəlki modeldə (15 avqustda yayımlanan) bu göstərici cəmi 27% idi. Şirkət əlavə edib ki, əsas təhlükəsizlik testlərinə emosional asılılıq və intihara aid olmayan psixi sağlamlıq fövqəladə halları üçün meyarlar əlavə edib. Buna baxmayaraq, Baş İcraçı Sam Altman dekabr ayından etibarən təsdiqlənmiş yetkin istifadəçilərə ChatGPT ilə erotik söhbətlərə icazə veriləcəyini elan etdi. Altman psixi sağlamlıq məsələlərinə diqqət yetirmək üçün robotu "çox məhdudlaşdırıcı" etdiklərini, lakin bunun digər istifadəçilər üçün "daha az faydalı" olduğunu qəbul etdi.