Тужби за безбедност на децата ги притискаат технолошките гиганти додека вештачката интелигенција влегува во училниците
Технолошките компании со години им ветуваат на родителите дека работат на тоа нивните производи да бидат побезбедни за децата. Но тековните судења пред порота, спогодбите и поврзаните парници против компании како Meta, Google и Snap укажуваат дека тоа не е доволно, пишува CNBC.
Најновите примери се појавија оваа недела. Snap постигна доверлива спогодба во случај во кој се тврдеше дека нејзината технологија предизвикала тешка психолошка вознемиреност кај две тинејџерки кориснички. Meta, TikTok и YouTube претходно постигнаа спогодба со тужителите во истиот случај. Истовремено, Google беше тужен оваа недела од родителите на дете кое наводно доживеало психолошка криза откако разговарало со чатботот Gemini во Google Classroom.
Загриженоста се засилува додека компаниите за вештачка интелигенција тежнеат кон трилионски вреднувања, а воспоставените интернет гиганти вложуваат пари во развој на напредни модели на вештачка интелигенција и ги туркаат во училниците. Според развојната психологија Кејт Блокер, производите и функциите наменети за максимизирање на ангажманот можат да имаат штетни ефекти врз корисниците, поради што се потребни пошироки системски промени во дизајнот на технологијата, особено кога децата ги користат.
„Мислам дека е многу важно безбедноста на децата да се зема предвид кога овие производи — вештачка интелигенција, социјални медиуми и така натаму — се дизајнираат, а не отпосле, кога овие проблеми ќе се појават“, изјави Блокер, директорка за истражување и програми во невладината организација Children and Screens.
Спогодбата на Snap оваа недела, со која извршниот директор Еван Шпигел беше поштеден од сведочење во суд во Лос Анџелес, продолжува на општиот тренд на технолошките компании да се обидуваат да се заштитат од јавна проверка поради неколкуте високопрофилни судења поврзани со безбедноста на децата оваа година, изјави Џозеф Мекнали, директор за нови парници во McNicholas & McNicholas. Случајот беше еден од неколкуте парници поврзани со судењето за лична повреда преку социјални медиуми што Meta и YouTube го загубија порано оваа година. Повеќе судења се закажани за март.
„Гледам на оваа спогодба и на другите спогодби во оваа област како обид на технолошките компании да свртат нов лист, не само затоа што мислам дека имаше вистински правни предизвици, туку и затоа што репутацијата на нивните производи и на нивните компании навистина беше погодена“, рече Мекнали.
Портпарол на Snap изјави дека страните се задоволни што успеале да го решат случајот на пријателски начин. „Изградивме заштитни мерки, лансиравме безбедносни упатства и се здруживме со експерти, а бидејќи безбедноста никогаш не е завршена работа, остануваме посветени на постојано зајакнување на безбедноста, приватноста и благосостојбата на нашата заедница“, рече портпаролот на Snap.
Сепак, останува федерален случај кој ги вклучува Meta, TikTok, Snap и YouTube и голем број училишни окрузи низ целата земја, заедно со разни тужби од државни правобранители. Во август Meta се согласи да плати речиси 17 милијарди долари за спогодба со група државни правобранители во случај за ментално здравје на децата. Некои правобранители сè уште водат слични постапки против ривалите на Meta.
Тужбите за социјални медиуми помогнаа да се информираат родителите и јавноста за тоа како индустријата дизајнира производи што ги користат тинејџери и деца, рече Мекнали. „Тоа е технолошката трка во вооружување што продолжува. Она што често недостасува е како да се балансира учеството во таа трка со корисноста и потоа со безбедноста на производот“, додаде тој.
Google се соочи со дополнителни критики оваа недела поради тоа што дејствуваше пребрзо. Њујорк тајмс објави во вторникот дека училиштата од основно и средно образование кои не дозволуваат користење на алатките на Google за вештачка интелигенција за учениците ќе го загубат пристапот до пребарувањето. Крис Филипс, потпретседател за образование во Google, изјави за Тајмс дека „пребарувањето и вештачката интелигенција се длабоко интегрирани“. Тоа се совпадна со новата тужба против Google, која се фокусира на наводна suicidal crisis кај тинејџер, што родителите му ја припишуваат на Gemini AI на компанијата.