Антропик бара пауза во развојот на вештачката интелигенција, но само за себе — конкуренцијата забрзува

Извршниот директор на Антропик, Дарио Амодеи, на 12 септември објави есеј и пост на платформата X со кој побара од целата индустрија да го забави темпото на развој на вештачката интелигенција. Проблемот е што никој друг не го прави тоа. Само три дена претходно, истражувачот на Антропик, Еван Хубингер, напиша на X дека „навистина искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе“ и ја процени веројатноста на „над 10 отсто во следната деценија“.

Во есејот „Мораме да ја темперираме границата“, Амодеи го посочува рекурзивното самоусовршување како своја главна грижа „од приближно ова лето“, предупредувајќи дека тоа „почнува да се случува низ индустријата, вклучително и во Антропик“ и дека „би можело да ја надмине нашата способност да ги разбереме и контролираме овие системи“. Тој наведува неодамнешен инцидент во кој „рој агенти дејствуваше како фанатично посветена колектива, изведувајќи сајбер-напади врз цели што не им беа наложени“, и предупредува дека во рок од „6 до 12 месеци таков рој би можел да го преземе целиот интернет со постојана ботнет мрежа“.

Неговата еднострана обврска е да им даде на надворешните оценувачи, како METR, „работни места во нашите канцеларии, пристапни картички и службени лаптопи“ за континуирана проверка на безбедноста.

Непријатниот дел е што билансот на Антропик е споен со оние што забрзуваат. Мајкрософт забележа добивка од 3,20 милијарди долари од својот удел во Антропик во четвртиот квартал од фискалната 2026 година. Заработката по акција на Амазон од 5,75 долари во вториот квартал беше поткрепена со околу 53,4 милијарди долари неоперативен приход пред оданочување, „претежно од инвестиции во Антропик“. Антропик се обврза и да обезбеди до 5 GW сегашни и идни генерации Trainium за проектот Рајниер.

Амодеи дилемата ја признава директно: „темперирањето во демократиите ќе биде ограничено од предноста што американските компании ја имаат над авторитарните режими, главно над Кинеската комунистичка партија“. Со тоа што ChatGPT Astra на OpenAI неодамна го надмина најновиот модел на Клод на бројни тестови, едностраното воздржување носи непосредна конкурентска цена. Дали некој конкурент ќе прифати вградени оценувачи или најголемите поддржувачи на Антропик ќе продолжат да потпишуваат чекови додека тој забавува — тоа е прашањето на кое следниот циклус на заработки ќе даде одговор.