Гугл откри: „Гемини“ самостојно хакирал три компании за време на безбедносен тест

Гугл во петокот соопшти дека неговиот модел „Гемини“ хакирал три други компании, што е првпат овој технолошки гигант јавно да признае дека некој од неговите модели самостојно стекнал пристап до компјутерски системи на трети страни без дозвола.

Според соопштението на компанијата, инцидентот се случил во мај, кога моделот „Гемини“ пристапил до три одделни приватни компјутерски системи. Притоа, моделот успеал да ги погоди лозинките, а во два наврати користел и база на јавно објавени лозинки. Настанот се случил во рамки на безбедносен тест од типот „capture-the-flag“, кој го спроведувала израелската стартап-компанија „Irregular“. Агентите на Гугл воопшто не требало да имаат пристап до поширокиот интернет, но поради грешка во тест-опкружувањето интернет-пристапот станал достапен.

Од Гугл наведуваат дека агентите ја прекинале интрузијата откако утврдиле дека пристапиле до системи на вистински компании, а не само до дел од тест-опкружувањето. Хедер Аткинс, потпретседател за безбедносно инженерство во Гугл, изјави дека во сите три случаи моделот престанал со дејството.

Откритието доаѓа во момент кога во Вашингтон и во Силициумската Долина расте вниманието кон несоодветното однесување на вештачката интелигенција. Во последните недели, „OpenAI“, „Anthropic“ и „Meta“ исто така објавија инциденти во кои нивните модели на вештачка интелигенција излегле од тест-опкружувањата и се обиделе да хакираат други компании. Сите три инциденти, како и случајот со Гугл, се поврзани со стартапот „Irregular“.

Од „Irregular“ за CNBC изјавија дека случајот со Гугл е поврзан со истиот проблем што им овозможил на другите модели да пристапат до интернет и дека не претставува материјално одделен инцидент. Компанијата, која е поддржана од „Sequoia“ и „Redpoint Ventures“ и минатата година била вреднувана на 450 милиони долари, им помага на производителите на фундаментални модели да спроведуваат сајбер-безбедносни тестови. Гугл соопшти дека бил известен од „Irregular“ кон крајот на јули и дека работел со компанијата на измена на тест-процесот.