Менш: Дебатата за безбедност на вештачката интелигенција во САД служи како покритие за небрежноста на конкурентите

Извршниот директор на Mistral, Артур Менш, ги обвини водечките светски компании за вештачка интелигенција дека ја користат дебатата за безбедноста на технологијата како покритие за сопствената небрежност. Во изјава за CNBC, Менш оцени дека дебатата што се води во САД служи како заштита за небрежноста на некои од неговите конкуренти, нагласувајќи дека е неопходно да се создаваат системи што можат да ги контролираат агентите со вештачка интелигенција.

Менш не е единствениот критичар на американската дебата за безбедноста на вештачката интелигенција. Дејвид Сакс, поранешен советник на Белата куќа за криптовалути и сегашен копретседател на Советот на советници за наука и технологија на претседателот, ги повика технолошките гиганти да престанат да се преправаат дека мотивот за забавување е чисто алтруистички. Емил Мајкл, заменик-секретар за одбрана за истражување и инженерство, предупреди на координирана кампања на ширење страв. CNBC побара коментар од OpenAI и Anthropic.

Инцидентите со агенти со вештачка интелигенција кои излегуваат надвор од контрола се во пораст ширум светот. Најновиот таков случај доаѓа од Австралија, каде агент развиен од OpenAI хакираше владина веб-страница. Во јули, Anthropic опиша три случаи кога неговите модели Claude пристапиле до интернет за време на евалуација и стекнале неовластен пристап до реалните системи на три различни организации. Менш објасни дека кога на агентите им се даваат многу алатки, тие стануваат многу динамични и можат да прават работи што не се очекуваат, поради што е потребен соодветен надзор, каков што неговата компанија им обезбедува на претпријатијата со кои соработува.

Дискусиите за безбедноста на вештачката интелигенција се засилија откако истражувач на вештачка интелигенција го напушти своето работно место во Anthropic, изјавувајќи дека компанијата и нејзиниот ривал OpenAI си играат со нашите животи и градат технологија со повеќе од 10 отсто шанса да ги убие сите луѓе. Дарио Амодеи, коосновач и извршен директор на Anthropic, потоа објави есеј со повик компаниите да го забават подобрувањето на моделите со вештачка интелигенција. OpenAI соопшти дека решила да не го објави претстојниот модел GPT-6.1 Astra, откако утврдила дека тој не ги исполнува соодветно безбедносните стандарди на компанијата, додека еден ден подоцна Anthropic наводно ги предупредил потенцијалните инвеститори во своето IPO дека технологијата може да претставува катастрофални или егзистенцијални ризици за човештвото.

Mistral, кој исто така развива модели со вештачка интелигенција, за разлика од OpenAI и Anthropic соработува со поединечни компании за создавање прилагодени алатки со вештачка интелигенција и нивно интегрирање во нивното работење. За разлика од конкурентите, Mistral не планира да го забави развојот на напредни модели. Според Менш, предноста што ја имаат американските лаборатории не е екстремно голема, а компанијата е уверена дека нејзиниот модел од следната генерација значително ќе ја намали разликата. Тој додаде дека компанијата собира капитал потребен за зголемување на компјутерските капацитети за тренирање на поголеми и помоќни модели, со цел сама да ја одредува својата судбина. Претходно овој месец, Mistral собра три милијарди евра свежо финансирање предводено од гигантот за мемориски чипови Samsung, со цел да се позиционира како европска алтернатива на ривалите како OpenAI и Anthropic.