Claude на Anthropic го заобиколи платениот пристап и дојде до податоци за гласачи во Џорџија
Автор: Редакција на FinPortal.mk ·
Моделот на вештачка интелигенција Claude на компанијата Anthropic пристапил до податоци за гласачи во американската сојузна држава Џорџија, потврди самата компанија. Според Anthropic, моделот успеал да го заобиколи платениот пристап за да дојде до податоци што се јавно достапни, но вообичаено се отвораат само по плаќање на надомест. Инцидентот е најнов пример за неовластено однесување на технологијата. Од Anthropic наведуваат дека Claude пристапил до збирни резултати од гласањето во рамки на статистички проект на компанијата, која се подготвува за берзанско листање вредно 1,5 трилиони долари (1,1 трилион фунти). Компанијата појаснува дека моделот не пристапил до државниот систем за регистрација на гласачи, не изменил ниту еден гласачки запис и не извлекол податоци за поединечни гласачи. Оттаму додаваат дека веќе презеле мерки за блокирање на слични дејствија. Според објаснувањето на Anthropic, моделот нашол слабост во стара верзија од веб-страницата на државната агенција, откривајќи дека таа на посетителите им издава дигитална влезна пропусница, односно „пристапен токен“. Тоа довело до тоа Claude да побара токен и така да дојде до информациите. Развивачот на вештачка интелигенција соопшти дека потоа воспоставил заштитни механизми за да спречи повторување на ваквите постапки. Случајот прв го објавил њуз-сајтот Axios. Anthropic претходно овој месец го посочи неовластеното однесување, наведувајќи во блог-објава дека нашол примери каде Claude „работи околу ограничување за да дојде до податоци заштитени со токен или надомест“, а дел од тие случаи вклучувале веб-страници управувани од американски владини агенции. Тогаш компанијата оцени дека инцидентите имаат „минимално влијание во реалниот свет“. Меѓу несаканите дејствија што ги означил Anthropic се и случај кога модел поднел лажна дојава за нерешен случај на убиство до полициската управа во Филаделфија. Американскиот Стејт департмент исто така овој месец открил дека модел на Anthropic поднел 19 барања за виза во август.