Hər Həftə Bir Milyondan Çox ChatGPT İstifadəçisi Süni İntellektlə İntihar Mövzusunu Müzakirə Edir

OpenAI şirkəti bu həftə yayımladığı yeni məlumatlarda ChatGPT istifadəçilərinin psixi sağlamlıq problemləri ilə necə mübarizə apardığını və bu barədə süni intellekt (Sİ) çatbotu ilə danışdığını göstərən təəccüblü rəqəmləri açıqlayıb. Şirkətin məlumatına görə, hər hansı bir həftə ərzində ChatGPT-nin aktiv istifadəçilərinin 0,15%-i “potensial intihar planlaşdırması və ya niyyətini göstərən açıq əlamətləri ehtiva edən söhbətlər” edir. ChatGPT-nin həftəlik 800 milyondan çox aktiv istifadəçisi olduğunu nəzərə alsaq, bu rəqəm hər həftə bir milyondan çox insanın ciddi psixi sarsıntılarla bağlı Sİ ilə danışdığı mənasına gəlir. Şirkət həmçinin bildirir ki, istifadəçilərin oxşar faizi ChatGPT-yə qarşı “yüksək emosional bağlılıq” nümayiş etdirir. Əlavə olaraq, hər həftə yüz minlərlə istifadəçi çatbotla etdiyi söhbətlərdə psixoz və ya mani əlamətləri göstərir.

Bu cür həssas mövzulu söhbətlərin sayı baxımından "çox nadir" olduğunu qeyd etməsinə baxmayaraq, OpenAI hər həftə yüz minlərlə insanın bu problemlərdən əziyyət çəkdiyini təxmin edir. Şirkət bu problemi aradan qaldırmaq üçün ciddi addımlar atıb və modellərin psixi sağlamlıq problemləri olan istifadəçilərə necə cavab verdiyini yaxşılaşdırmağa çalışır. Bu işlər çərçivəsində OpenAI 170-dən çox psixi sağlamlıq mütəxəssisi ilə məsləhətləşib. Həmin klinisistlər qeyd ediblər ki, ChatGPT-nin ən son versiyası əvvəlki versiyalara nisbətən daha düzgün və ardıcıl cavablar verir. Şirkət intihar söhbətləri ilə bağlı Sİ cavablarını sınaqdan keçirmək üçün yeni qiymətləndirmələr əlavə edir. Bu testlərdə ən yeni GPT-5 modelinin şirkətin istədiyi davranışlara 91% uyğunluq göstərdiyi, əvvəlki GPT-5 modelində isə bu rəqəmin 77% olduğu bildirilir. Bu, cavabların arzuolunan səviyyədə olmasında 65% artım deməkdir. Üstəlik, yeni model uzun söhbətlər zamanı da təhlükəsizlik tədbirlərini daha yaxşı qoruyur.

Son aylarda Sİ çatbotlarının psixi sağlamlıq çətinlikləri ilə üzləşən istifadəçilərə mənfi təsir göstərməsi ilə bağlı bir sıra hadisələr diqqət mərkəzindədir. Tədqiqatçılar süni intellektin, təhlükəli inancları gücləndirməsi səbəbilə bəzi istifadəçiləri qarabasma hallarına sövq edə biləcəyini aşkar etmişdilər. Hal-hazırda OpenAI, intihar etməzdən bir neçə həftə əvvəl intihar düşüncələrini ChatGPT-yə danışan 16 yaşlı oğlanın valideynləri tərəfindən məhkəməyə verilib. Kaliforniya və Delaver ştatlarının baş prokurorları da şirkətə xəbərdarlıq edərək, məhsullarından istifadə edən gənc istifadəçilərin qorunmasını tələb ediblər. Sam Altman, şirkətin ciddi psixi sağlamlıq problemlərini yüngülləşdirdiyini iddia etsə də, eyni vaxtda bəzi məhdudiyyətlərin yumşaldılacağını, hətta böyük istifadəçilərin çatbotla erotik söhbətlər edə biləcəyini elan edib. Bu addım təhlükəsizliyə verilən önəmlə, məzmun siyasətinin dəyişdirilməsi arasında ziddiyyət yaradır.

Şirkət, həmçinin emosional bağlılıq və intiharyönlü olmayan psixi sağlamlıq təcili halları üçün yeni əsas təhlükəsizlik testləri tətbiq edir. Bundan əlavə, OpenAI ChatGPT istifadə edən uşaqların valideynləri üçün daha çox nəzarət mexanizmləri tətbiq edib. Şirkət avtomatik olaraq uşaqları aşkarlayan və onlara daha ciddi təhlükəsizlik qaydaları tətbiq edən yaş proqnozu sistemi üzərində çalışır. Bütün bu təkmilləşdirmələrə baxmayaraq, psixi sağlamlıq problemləri ilə bağlı çətinliklər davam edir. GPT-5 modelində təhlükəsizlik baxımından irəliləyişlər olsa da, şirkətin “arzuolunmaz” hesab etdiyi bir sıra cavablar qalır. Ən əsası isə, OpenAI GPT-4o da daxil olmaqla, daha köhnə və daha az təhlükəsiz süni intellekt modellərini milyonlarla ödənişli abunəçisi üçün hələ də əlçatan saxlayır.