Предупредувања од челниците на Anthropic и OpenAI предизвикаа потрес кај технолошките акции

Технолошките акции паднаа во понеделникот откако челници од индустријата за вештачка интелигенција изразија загриженост за иднината на технологијата и нејзиниот потенцијал да им наштети на луѓето. Насадакот загуби околу 0,8 отсто во раното тргување, додека Филаделфискиот индекс на полупроводници падна за повеќе од 4 отсто.

Епизодата започна минатата недела кога истражувач од Anthropic објави на платформата X дека ја напушта компанијата, оценувајќи дека таа не прави доволно за да ја држи вештачката интелигенција под контрола. На објавата одговори Еван Хубингер, раководител за наука за усогласување во Anthropic, потврдувајќи дека поранешниот вработен е во право и дека смета оти постои поголема од 10 отсто веројатност технологијата да „ги убие сите луѓе“.

Во саботата, извршниот директор на Anthropic, Дарио Амодеи, објави есеј како одговор на тие објави, повикувајќи ги компаниите за вештачка интелигенција да го забават темпото на развој на најнапредните модели. Со него се согласи и извршниот директор на OpenAI, Сем Алтман. Во понеделникот, Ројтерс објави дека Microsoft развива сопствен кодекс на однесување за своите модели на вештачка интелигенција.

Претходно, истражувачот Џејкоб Коксон објави дека поднел оставка од Anthropic, тврдејќи дека ниту таа компанија ниту OpenAI не дејствуваат одговорно кога станува збор за развојот на моќни системи за вештачка интелигенција. Во објавата на X тој наведе дека компаниите се натпреваруваат да создадат „самоусовршувачка суперинтелигенција“.

Според неговите зборови, луѓето што ја градат вештачката интелигенција искрено веруваат дека таа може да ги убие сите до крајот на деценијата и дека тоа не е маркетинг-трик. Тој додаде дека многу раководители и високи истражувачи во јавноста ги формулираат своите изјави така за да звучат разумно, но дека истите тие луѓе приватно изразуваат страв.

Различните објави отворија прашања дали изградбата на капацитети за вештачка интелигенција ќе продолжи со досегашното забрзано темпо или забавувањето на развојот на најнапредните модели може да го намали тоа темпо.