Anthropic пред IPO предупредува: нашата вештачка интелигенција може да претставува егзистенцијален ризик за човештвото

Компанијата Anthropic, зад која стои чат-ботот Claude, им порача на идните акционери дека технологијата што ја продава може да претставува закана за самото човештво. Ова предупредување се наоѓа во долгоочекуваниот проспект за првичната јавна понуда (IPO), споделен со мала група партнери, а за него известува Financial Times, повикувајќи се на луѓе запознаени со документот.

Anthropic речиси една третина од обемниот документ S-1, што компаниите го поднесуваат до американската Комисија за хартии од вредност пред котација, го посветила токму на факторите на ризик. Меѓу нив е и можноста сè понапредните модели на вештачка интелигенција да манипулираат, да изнудуваат или да се однесуваат на други непредвидливи начини, како што покажале и сопствените истражувања на Anthropic — автономни модели кои саботирале код, помагале во измами и манипулирале со информации во контролирани тестови. Ваквите предупредувања дополнително ја отежнуваат задачата на инвеститорите што се обидуваат да ја проценат вредноста на компанијата, чија котација на Nasdaq се очекува оваа есен и треба да биде највредното IPO досега. Anthropic јавно не ги коментираше овие извештаи.

Проспектот открива и финансиски ризици. Речиси една четвртина од приходите на Anthropic минатата година дошле од само два клиенти, а многу од најголемите клиенти не се врзани со долгорочни договори. Приходите скокнале дванаесеткратно, на речиси 4,6 милијарди долари во 2025 година, но оперативните трошоци достигнале 12,65 милијарди долари, од кои повеќе од половината за сметачка моќ и инфраструктура, што оставило оперативна загуба од над 8 милијарди долари. Нето-загубата од околу 42 милијарди долари вклучува и сметководствен товар од приближно 34 милијарди долари поврзан со финансирање што може да се претвори во акции, а не пари потрошени за работењето на бизнисот.

Компанијата планира да потроши 518 милијарди долари на обврски за облак, сметачка моќ и инфраструктура во наредните години. На крајот на 2025 година располагала со 20,28 милијарди долари во готовина и краткорочни инвестиции. Приходите во вториот квартал од 2026 година достигнале 11,5 милијарди долари, а компанијата е на пат кон втор последователен квартал со оперативна добивка, иако на прилагодена основа. Поддржувачите очекуваат Anthropic да се котира со вредност над 2 трилиони долари, повеќе од двојно од 965 милијарди долари утврдени во кругот на финансирање во мај. Како што Euronews објави претходно овој месец, во нивниот врв, пред-IPO договорите на крипто-платформата Hyperliquid веќе имплицираа вредност од приближно 2,36 трилиони долари.

Проспектот доаѓа во момент на жестока дебата за ризиците од вештачката интелигенција. Сегашни и поранешни вработени во Anthropic предупредија дека неконтролираната ВИ може да го уништи човештвото во рок од една деценија, а извршниот директор Дарио Амодеи минатата недела пред Советот за безбедност на ОН изјави дека вештачката интелигенција е „најважното глобално безбедносно прашање со кое се соочува светот денес“. Амодеи овој месец ги предводеше и повиците за „темпо на развојната граница“ на ВИ, поддржани од Сем Алтман од OpenAI и Илон Маск.

Сепак, Anthropic минатата недела го објави моделот Opus 5.5 за да го запре движењето на OpenAI по лансирањето на GPT-6 Astra. OpenAI откри дека нејзините алатки хакирале „десетици“ надворешни страници, вклучително и владини, а во понеделникот ги откажа плановите за објавување на најновиот модел следниот месец, наведувајќи безбедносни причини. Американскиот претседател Доналд Трамп го отфрли повикот на Амодеи за забавување, велејќи: „Јас сум за ајде да одиме и да победиме“, опишувајќи ја трката во ВИ како натпревар меѓу САД и Кина што Америка го води и не смее да го загуби. Амодеи не беше на државната вечера во Белата куќа со кинескиот претседател Си Џинпинг, на која присуствуваа Маск, Алтман, Џенсен Хуанг од Nvidia и Тим Кук од Apple. Трамп потоа го hosted на приватна вечера во неделата навечер, нивна прва средба еден на еден, за која Белата куќа не објави детали. Двете страни се судрија уште во февруари, кога Anthropic одби да дозволи нејзините модели да се користат за целосно автономно оружје или домашно масовно надгледување, по што Пентагон ја класифицираше компанијата како ризик за синџирот на снабдување, одлука што федерален апелационен суд ја потврди минатата недела. Трамп и претседателот на Претставничкиот дом, Мајк Џонсон, во вторникот треба да се сретнат со извршни директори од областа на ВИ.