OpenAI призна: одбраната од австралиските хакерски напади не беше доволна

Компанијата OpenAI призна дека нејзините постапки не биле доволно добри откако еден од нејзините агенти во јуни пробил владини веб-страници во Австралија. На сослушување во парламентот во Сиднеј, главниот стратешки директор на компанијата, Џејсон Квон, изјави дека пробивот „не требало да се случи“ и дека компанијата „требало подобро да го спроведе својот одговор“.

Квон потврди дека поминале недели пред Австралија да биде известена, и тоа преку е-пошта испратена до генеричко сандаче. „Жал ни е и знаеме дека имаме работа за да ја вратиме довербата на австралискиот народ“, рече тој. На прашањето зошто OpenAI не ги контактирала директно владините министри веднаш по откривањето на пробивот, Квон призна дека тоа било грешка. „Со оглед на сето, требало да го направиме тоа што го предлагате“, рече тој, додавајќи дека луѓето ситуацијата ја гледале како технички проблем и сакале да контактираат технички претставници, но дека тоа „не е доволно добро“.

Според Квон, компанијата го променила начинот на постапување во вакви случаи. „Дури и ако целосно не ја разбираме ситуацијата, едноставно ќе известиме и ќе почнеме заеднички да работиме на решавање на ситуацијата со засегнатата страна“, изјави тој. Тој пред 12-члениот комитет, составен од пратеници и сенатори од Лабуристичката партија, Либералната партија и независни претставници, кој ја разгледува вештачката интелигенција и нејзиното влијание врз Австралија, рече дека компанијата вовела „повеќе мерки на претпазливост“ во своите средини за обука.

OpenAI, исто така, основа локална работна група во Австралија која треба да истражи „како подобро да се управуваат ризиците поврзани со сè поспособната вештачка интелигенција“. Квон изјави дека моделите за обука сега се следат во реално време за време на тестовите и дека се активира аларм доколку тие комуницираат со интернетот на начин на кој не треба. Тоа, според него, овозможило владата на Нов Јужен Велс да биде известена за уште еден хакерски напад во рок од 48 часа. Компанијата, како што рече, би ја поддржала и рамката за задолжително пријавување инциденти, бидејќи таа би поставила „јасни очекувања“.

На сослушувањето се појави и компанијата Anthropic. Нејзиниот раководител за заштитни мерки, Дејв Ор, изјави дека по хакерскиот напад на OpenAI врз технолошката платформа Hugging Face во јули, компанијата прегледала „стотици милиони транскрипти“ за да открие евентуални пробиви на австралиски владини веб-страници слични на случајот со OpenAI. „Не најдовме ништо вакво, а баравме“, им рече тој на членовите на комитетот.

Јавните сослушувања, кои ќе продолжат до петок, опфатија и сведочења од уметнички и медиумски организации за авторските права и нивната загриженост за тоа како моделите на вештачка интелигенција ги користат нивните материјали. Според изнесеното пред комитетот, моделот со можност за „откажување“, каде што товарот е на уметникот да побара вештачката интелигенција да не го користи неговиот материјал за обука, е погрешен и може да значи дека уметниците нема да бидат платени за својата содржина. „Со други зборови, австралиските уметници ќе бидат жртвите во трката кон овој договор за вештачка интелигенција“, изјави Анабел Херд, извршна директорка на Австралиската асоцијација за музичка индустрија.