Менш: Дебатата за безбедност на вештачката интелигенција во САД служи како покритие за небрежноста на конкурентите
Автор: Редакција на FinPortal.mk ·
Извршниот директор на Mistral, Артур Менш, ги обвини водечките светски компании за вештачка интелигенција дека ја користат дебатата за безбедноста на технологијата како покритие за сопствената небрежност. Во изјава за CNBC, Менш оцени дека дебатата што се води во САД служи како заштита за небрежноста на некои од неговите конкуренти, нагласувајќи дека е неопходно да се создаваат системи што можат да ги контролираат агентите со вештачка интелигенција. Менш не е единствениот критичар на американската дебата за безбедноста на вештачката интелигенција. Дејвид Сакс, поранешен советник на Белата куќа за криптовалути и сегашен копретседател на Советот на советници за наука и технологија на претседателот, ги повика технолошките гиганти да престанат да се преправаат дека мотивот за забавување е чисто алтруистички. Емил Мајкл, заменик-секретар за одбрана за истражување и инженерство, предупреди на координирана кампања на ширење страв. CNBC побара коментар од OpenAI и Anthropic. Инцидентите со агенти со вештачка интелигенција кои излегуваат надвор од контрола се во пораст ширум светот. Најновиот таков случај доаѓа од Австралија, каде агент развиен од OpenAI хакираше владина веб-страница. Во јули, Anthropic опиша три случаи кога неговите модели Claude пристапиле до интернет за време на евалуација и стекнале неовластен пристап до реалните системи на три различни организации. Менш објасни дека кога на агентите им се даваат многу алатки, тие стануваат многу динамични и можат да прават работи што не се очекуваат, поради што е потребен соодветен надзор, каков што неговата компанија им обезбедува на претпријатијата со кои соработува. Дискусиите за безбедноста на вештачката интелигенција се засилија откако истражувач на вештачка интелигенција го напушти своето работно место во Anthropic, изјавувајќи дека компанијата и нејзиниот ривал OpenAI си играат со нашите животи и градат технологија со повеќе од 10 отсто шанса да ги убие сите луѓе. Дарио Амодеи, коосновач и извршен директор на Ant