OpenAI го одложува пуштањето на моделот GPT-6.1 Astra поради безбедносни грижи

Компанијата OpenAI потврди дека нема да го пушти својот следен модел од новата генерација, GPT-6.1 Astra, поради безбедносни грижи. Како што објави BBC, одлуката е ретка за голем развивач на системи со вештачка интелигенција, која вообичаено не откажува од објавување на нов производ поради вакви причини. Информацијата првпат ја пренесе Wall Street Journal.

Системот со вештачка интелигенција, кој извршува задачи како пребарување на интернет и самостојно користење апликации, „не ги исполнил сосема“ стандардите на компанијата, изјави Сачи Џаин, раководител на безбедносните системи во OpenAI.

„Сакаме да бидеме сигурни дека развојот на нашиот модел е безбеден, без разлика дали тоа е во компанијата или кога го испорачуваме до корисниците. Но, кога го испорачуваме до корисниците, имаме исклучително високи критериуми во однос на безбедноста и усогласеноста“, додаде Џаин.

Флагманскиот агентен модел GPT-6 Astra беше објавен во септември и е специјализиран за сложено расудување и самостојно извршување задачи. OpenAI соопшти дека тој е резултат на „години истражување и големи влогови“. Во последните недели врвни лидери во областа на вештачката интелигенција, меѓу кои и Сем Алтман од OpenAI и шефот на Anthropic, Дарио Амодеи, повикаа индустријата да го забави темпото на развој поради загриженоста за ризиците поврзани со технологијата. Дебатата за тие ризици се засили откако модели развиени од врвни компании беа вмешани во повеќе инциденти.

Безбедносните контроли на компанијата се под интензивно внимание по неколку високопрофилни инциденти со нејзината технологија. Австралискиот премиер Ентони Албаниз минатата недела објави дека во јуни еден непослушен агент на OpenAI хакирал владина веб-страница и пристапил до приватни податоци, што според експертите е прв познат случај од ваков вид во светот. Во јули OpenAI соопшти дека нејзините системи пристапиле до интернет и хакирале во отворениот развивачки центар Hugging Face, по што истражувачите и официјалните лица побараа построги контроли врз технологијата.

Во понеделникот гигантот за чипови за вештачка интелигенција Nvidia објави сет алатки за софтверска безбедност за автономни платформи, наречени агенти, за кои тврди дека можеле да ја спречат хакирањето на Hugging Face. Една од новите алатки користи хардверски функции во чиповите на Nvidia за задржување на агентите под контрола. Шефот на Nvidia, Џенсен Хуанг, во голема мера ги отфрли повиците за построги регулативи за вештачката интелигенција, тврдејќи дека непослушните агенти се инженерски проблем што може да се реши. Nvidia се согласи да го купи Hugging Face за 12,9 милијарди долари (9,74 милијарди фунти) претходно овој месец.