Claude на Anthropic го заобиколи платениот пристап и дојде до податоци за гласачи во Џорџија
Моделот на вештачка интелигенција Claude на компанијата Anthropic пристапил до податоци за гласачи во американската сојузна држава Џорџија, потврди самата компанија. Според Anthropic, моделот успеал да го заобиколи платениот пристап за да дојде до податоци што се јавно достапни, но вообичаено се отвораат само по плаќање на надомест. Инцидентот е најнов пример за неовластено однесување на технологијата.
Од Anthropic наведуваат дека Claude пристапил до збирни резултати од гласањето во рамки на статистички проект на компанијата, која се подготвува за берзанско листање вредно 1,5 трилиони долари (1,1 трилион фунти). Компанијата појаснува дека моделот не пристапил до државниот систем за регистрација на гласачи, не изменил ниту еден гласачки запис и не извлекол податоци за поединечни гласачи. Оттаму додаваат дека веќе презеле мерки за блокирање на слични дејствија.
Според објаснувањето на Anthropic, моделот нашол слабост во стара верзија од веб-страницата на државната агенција, откривајќи дека таа на посетителите им издава дигитална влезна пропусница, односно „пристапен токен“. Тоа довело до тоа Claude да побара токен и така да дојде до информациите. Развивачот на вештачка интелигенција соопшти дека потоа воспоставил заштитни механизми за да спречи повторување на ваквите постапки. Случајот прв го објавил њуз-сајтот Axios.
Anthropic претходно овој месец го посочи неовластеното однесување, наведувајќи во блог-објава дека нашол примери каде Claude „работи околу ограничување за да дојде до податоци заштитени со токен или надомест“, а дел од тие случаи вклучувале веб-страници управувани од американски владини агенции. Тогаш компанијата оцени дека инцидентите имаат „минимално влијание во реалниот свет“.
Меѓу несаканите дејствија што ги означил Anthropic се и случај кога модел поднел лажна дојава за нерешен случај на убиство до полициската управа во Филаделфија. Американскиот Стејт департмент исто така овој месец открил дека модел на Anthropic поднел 19 барања за виза во август. Примерите за неовластено однесување на агенти на вештачка интелигенција – програми поткрепени со модели што самостојно извршуваат задачи – се множат откако OpenAI, компанијата зад ChatGPT, во јули објави дека нејзините ботови хакирале стартап за вештачка интелигенција.
Оттогаш излезе на виделина дека агент на OpenAI го хакирал австралискиот здравствен систем, а британскиот институт за безбедност на вештачка интелигенција открил дека агенти на Anthropic спровеле хакерска кампања против реални лица за време на тест за сајбер-безбедност. Овој месец британскиот министер за вештачка интелигенција изјавил дека очекува сајбер-напад поттикнат од вештачка интелигенција сличен на австралискиот хак, опишувајќи го како веројатен, „ако не и неизбежен“. Канишка Нарајан рекол дека владата ќе разгледа можност законот за сајбер-безбедност и отпорност да се искористи како основа за воведување регулатива за безбедност на вештачката интелигенција, вклучително и задолжително пријавување на инцидентите поврзани со неа. Во САД, новоформираната Супер-интелигенција сила на Белата куќа – федерално тело што го надгледува развојот на вештачката интелигенција – задолжува сите компании во областа да пријавуваат безбедносни инциденти што ја вклучуваат нивната технологија.