Anthropic пред инвеститорите признава: вештачката интелигенција може да претставува „катастрофален или егзистенцијален ризик за човештвото

Компанијата Anthropic, позната по својот јазичен модел Claude, планира во проспектот за излез на берза да ги предупреди инвеститорите дека нејзините модели на вештачка интелигенција претставуваат „катастрофален или егзистенцијален ризик за човештвото“, објавија неколку медиуми. Според извештајот на Ројтерс, компанијата посветила повеќе од една третина од својата документација за IPO — околу 80 од вкупно 261 страница — на потенцијалните ризици од технологијата што ја развива и за која бара инвестиции. За претставување на сопствениот деловен модел искористила само 48 страници.

Во документот се предупредува дека вештачката интелигенција може да покажува „самоодржливи однесувања“, меѓу кои и способност да се спротивстави на исклучување, да прикрива или манипулира со информации и да спроведува постапки што наликуваат на изнудување. Компанијата, која работи пет години, при излезот на берзата цели кон вреднување од 2 трилиони долари, а во документацијата наведува дека во 2025 година остварила нето загуба од 42 милијарди долари. Според Ројтерс, таа планира во следната година да потроши 518 милијарди долари за облак, сметачка моќ и друга инфраструктура.

Anthropic истовремено предупредува и на исклучително тесна база на клиенти. Како што изјавиле два извори запознаени со документацијата за Financial Times, речиси една четвртина од приходите минатата година дошле од само два клиенти.

Косновачот и извршен директор на компанијата, Дарио Амодеи, претходно објави неколку есеи во кои предупредува на заканите од вештачката интелигенција, вклучително и дека технологијата ќе предизвика „невообичаено болна“ нарушување на пазарот на труд. Во еден понов есеј, тој ја повика индустријата да го забави темпото на развој на моделите на вештачка интелигенција, со тристепен план за намалување на брзината со која моделите се подобруваат, без „жртвување на комерцијалната предност или водството на Соединетите Американски Држави во вештачката интелигенција“.

Тие повици за забавување се донекаде „чешање по главата“ за секторот, на што пазарот реагираше „прилично едногласно“, изјави Ден Ајвс, партнер и висок извршен директор во Yorkville Ives, за CNBC. Според него, заштитните механизми се неопходни од безбедносна перспектива, но доколку Anthropic и OpenAI забават, Кина едноставно би забрзала и би победила. Тој додаде дека регулацијата би можела да ја задуши иновацијата, што останува „најголемата грижа во САД“.