Истражување: Безбедносните механизми на ChatGPT за тинејџери често не функционираат
Автор: Редакција на FinPortal.mk ·
OpenAI го претстави ChatGPT for Teens со цел да поттикне поздраво користење на вештачката интелигенција кај младите, но ново истражување покажува дека клучните безбедносни функции не ја исполнуваат својата цел. Компанијата во август воведе низа заштитни механизми за тинејџери, меѓу кои ограничувања на емоционалната зависност и нови известувања до родителите за проблематично користење. Во средата OpenAI соопшти дека просечното користење на ChatGPT кај тинејџерите е релативно ограничено и дека е насочено кон активности поврзани со учење. Сепак, истражувањето објавено истиот ден од непрофитната организација Common Sense Media покажа дека ChatGPT сè уште претставува „неприфатлив ризик“ за тинејџерите, бидејќи безбедносните функции често откажуваат. Според истражувањето, дури и еден час разговор на тинејџер со ChatGPT за „суицидални мисли, самооштетување или нарушено јадење“ на новосоздадени сметки поврзани со родител, резултирал со „нула“ известувања испратени до родителите. Само постари сметки на ChatGPT, со „недели акумулирана историја на разговори на чувствителни теми“, доведувале до известување до родителите. Том Сигел, кој го води Институтот за безбедност на млади во рамки на Common Sense, изјави дека ChatGPT for Teens може да им даде лажна сигурност на родителите во заштитните механизми и безбедносните предупредувања кои често не функционираат. Од Common Sense Media сметаат дека OpenAI треба да им забрани на лица под 18 години да ја користат платформата додека заштитните механизми за тинејџери не се покажат како сигурни. Портпарол на OpenAI изјави дека прегледот на методологијата на Common Sense Media покажал дека голем дел од тестирањето можеби започнало и завршило пред целосно да биде активирана контролата за родители. „Ги поздравуваме ригорозните независни оценки, но не веруваме дека тестирањето на Common Sense Media точно го одразува начинот на кој функционираат заштитните механизми на ChatGPT за тинејџери во практика, ниту експертските перспективи за тоа како