Алтман бара рамка за безбедност на вештачката интелигенција: „Ниту еден американски конкурентски притисок не смее да оправда неодговорност
Првиот човек на OpenAI, Сем Алтман, изнесе најдетални досега коментари за тоа како би можеле да функционираат безбедносните рамки за вештачката интелигенција, откако претходно им се придружи на Дарио Амодеи од Anthropic и Илон Маск во предупредувањето дека индустријата мора да го забави темпото на развој. Во објава на платформата X во понеделникот по полноќ, Алтман порача дека OpenAI „ја поздравува федералната рамка што поставува конзистентни безбедносни барања за најнапредните системи на вештачка интелигенција“, додавајќи дека „ниту еден американски конкурентски притисок не смее да оправда неодговорност“.
Алтман предупреди дека напредокот во вештачката интелигенција може да тргне „многу лошо“ на два начина — преку губење контрола врз иднината на самата технологија и преку прекумерна концентрација на моќта околу едно лице или компанија. Неговата објава доаѓа по есејот на Амодеи од саботата, во кој тој ги повика компаниите за вештачка интелигенција да го забават темпото на подобрување на своите најнапредни модели.
Алтман во саботата накратко се согласи со Амодеи дека компаниите треба да го „темпираат“ развојот на најнапредните системи, оценувајќи дека „ангажирањето независни оценувачи со пристап како на вработени е одлична идеја“ и дека OpenAI ќе го стори истото. Во понеделничката објава тој додаде дека конзистентните правила за управување со ризиците се добра идеја и дека компанијата е заинтересирана за решенија како независни ревизори. Сепак, тој нагласи дека „темпирање“ не значи „запирање“ и дека напредокот ќе продолжи.
Загриженоста за безбедноста на вештачката интелигенција дополнително се засили откако истражувач од Anthropic ја напушти компанијата пред една недела, предупредувајќи дека индустријата не ја сфаќа сериозно оваа тема, по што вработени во таа лабораторија и во конкурентскиот OpenAI јавно предупредија за катастрофални ризици. Американскиот претседател Доналд Трамп во неделата изјави дека забавување не е потребно и дека тоа би го загрозило водството на САД во вештачката интелигенција пред Кина. Акциите на технолошките компании паднаа во понеделникот додека инвеститорите ги анализираа коментарите, а законодавците во Вашингтон бараат начин да одговорат на повиците за заштитни мерки. Сето ова се случува во момент кога Anthropic и OpenAI се подготвуваат за она што се очекува да бидат историски IPO-а, иако Алтман во интервју за Fortune објавено во саботата исклучи излегување на берза во 2026 година.