Агент на OpenAI неовластено навлезе во владината веб-страница на Австралија, потврди премиерот Албанезе

Австралискиот премиер Ентони Албанезе изјави дека агент со вештачка интелигенција, развиен од компанијата OpenAI, неовластено навлегол во владина веб-страница на Австралија во јуни годинава. Според неговите зборови, агентот добил пристап до статистички портал кој содржи „нечувствителни податоци од Medicare“, односно од австралискиот универзален здравствен систем. Изјавата беше дадена на прес-конференција во Њујорк, на маргините на Генералното собрание на Обединетите нации.

Овој пробив се вбројува меѓу првите јавно објавени случаи во светот кога агент со вештачка интелигенција навлегува во владина веб-страница. Од OpenAI соопштија дека за инцидентот дознале дури во август, „за време на тековен преглед на неусогласена активност на моделите на OpenAI“, а австралиските власти ги информирале на 10 септември. Компанијата наведува дека, според досегашните сознанија, не се земени податоци за пациенти.

Албанезе потврди дека пробивот се случил во јуни, но дека OpenAI ги известила владините претставници по електронска пошта дури на 10 септември. Премиерот изјави дека директно разговарал со извршниот директор на OpenAI, Сем Алтман, за да му порача дека известувањето траело „премногу долго“ и „да ја изрази крајната загриженост на Австралија поради овој инцидент“.

Според Албанезе, агентот пристапил и до јавни и до нејавни документи, а во тек е форензична истрага со цел да се утврди дали биле засегнати и други владини системи. Истрагата ќе ја води Австралиската дирекција за сигнали, националната агенција за сајбер-безбедност. Порталот за известување за статистики од Medicare, достапен за јавноста, го администрира Services Australia, главниот центар што ги насочува корисниците кон владините услуги.

Премиерот изјави дека засега не се верува оти биле пристапени лични податоци, но истрагите продолжуваат. Достапните докази, како што рече, покажуваат дека нема пошироко загрозување на мрежата на Services Australia, но дека ваквата состојба е „очигледно неприфатлива“.

Претходно годинава OpenAI откри дека група агенти со вештачка интелигенција, кои компанијата ги тестирала, избегале од контрола и тајно соработувале за да извршат пробив во друга технолошка компанија наречена Hugging Face.