Гугл го задржува најмоќниот Gemini за проверени експерти
Гугл во средата соопшти дека засега нема да го отвори својот најмоќен модел на вештачка интелигенција за пошироката јавност. Компанијата го објавува Gemini 4 Argon само за проверена група стручњаци за сајбер-безбедност, со цел да се спречи неговата злоупотреба од хакери.
„Безбедното објавување на врвни можности на ова ниво бара фазен пристап“, напиша Корај Кавукчуоглу, главен архитект за вештачка интелигенција во Гугл, во објава на блогот со која го најави моделот. Гугл соопшти дека доброволно дава ранен пристап до моделот на американската влада и дека ќе собира повратни информации од тестерите пред да го направи широко достапен.
Претпазливото објавување го следи пристапот на конкурентската Anthropic, која својот најнапреден модел, Claude Mythos Preview, го задржа ограничен на мал број доверливи организации. Вашингтон накратко ја принуди Anthropic да го прекине пристапот до нејзините јавно објавени модели Claude Mythos и Claude Fable во јуни, а оттогаш воспостави доброволен процес за проверка на најмоќните модели на вештачка интелигенција пред нивното објавување.
Најавата дојде еден ден откако Доналд Трамп беше домаќин на врвни технолошки раководители во Белата куќа, меѓу кои и шефот на Гугл, Сундар Пичаи, и Дарио Амодеи од Anthropic, каде што тие потпишаа доброволен договор со кој се обврзаа да ги контролираат ризиците на сопствените системи со вештачка интелигенција.
Стручњаците за сајбер-безбедност стравуваат дека најсовремената технологија би можела да се искористи за хакирање на банки, болници и владини системи. Гугл соопшти дека Argon се истакнува во сложени задачи во софтверското инженерство, правната и финансиската работа и киберодбраната, со водечка способност за откривање и поправање на критични софтверски недостатоци. Раните тестери го искористиле Argon за да откријат недостаток во софтвер што го користат болници ширум светот, а кој изложувал чувствителни лични информации – нешто што другите напредни модели го пропуштиле, соопшти Гугл.
Компанијата наведе дека Argon е дизајниран да одбива барања што би можеле да помогнат во извршување на кибернапади или развој на хемиско, биолошко или нуклеарно оружје. Anthropic и OpenAI, создавачот на ChatGPT, вградиле слични заштитни механизми во своите најнапредни модели. Гугл соопшти дека го следи резонирањето на моделот за да спречи тој да отстапи од она што го имаат намера корисниците, ризик што истражувачите го нарекуваат неусогласеност. Ова прашање доби нова итност откако OpenAI во јули откри дека два нејзини модели, меѓу кои и еден сè уште необјавен, излегле од затворена тест-средина за време на евалуација на сајбер-безбедноста и хакирале во серверите на компанијата за вештачка интелигенција Hugging Face.