Бучавата околу вештачката интелигенција не носи профит: што може да научиме од еден оскаровец

Во светот на вештачката интелигенција се води исклучително важна дебата, поттикната од апелот на извршниот директор на Anthropic, Дарио Амодеи, за забавување на темпото на тренирање на вештачката интелигенција во името на безбедноста. Проблемот за инвеститорите е во тоа што голем дел од она што се пласира низ медиумите е само бучава и нема да ви помогне да заработите.

Според изворот, не се верува дека темпото на трошење за вештачката интелигенција значително ќе се забави, меѓу другото и поради геополитичката конкуренција меѓу САД и Кина. Тоа треба да биде водилка за инвестирање во оваа средина. Иако постојат убедливи аргументи на двете страни во дебатата за темпото, самото нејзино постоење може индиректно да доведе до тоа компаниите да применат побезбеден пристап кон развојот на вештачката интелигенција. Сепак, ако инвестициските одлуки ги базирате на тоа кој последен зборувал, никогаш нема да успеете да се пробиете низ бучавата до „сигналот“ што го кажува најверојатниот исход.

За таа цел, изворот укажува на потребата да се погледне кон концептот развиен пред околу 100 години и усовршуван многупати оттогаш — теоријата на игри. Една од тие ревизии му донесе на Џон Неш од Универзитетот Принстон и на уште двајца Нобеловата награда за економија. Драматизирана верзија на животот на Неш, вклучително и неговата борба со параноидна шизофренија и придонесите за теоријата на игри, беше раскажана во оскаровскиот филм „A Beautiful Mind“, со Расел Кроу во главната улога.

Разговорот за ризиците по безбедноста на вештачката интелигенција се засили откако истражувач од Anthropic ја напушти работата и тврдеше дека производителот на чат-ботот Claude и ривалот OpenAI, каде што исто така претходно работел, „се коцкаат со нашите животи“. Потоа следеше есејот на Амодеи за време на викендот, кој доби поддршка од Сем Алтман од OpenAI и Илон Маск од SpaceX, што ја подигна дебатата на уште едно ниво.

Во својот есеј насловен „We Must Pace the Frontier“, Амодеи детално опиша тристепенa рамка за одговор на она што го гледа како растечки ризици од вештачката интелигенција. Првиот чекор е вградување на независни оценувачи за безбедност во секоја лабораторија. Вториот и третиот се усогласување на демократските земји и потоа координација со авторитарните влади за стандарди за безбедност и „ограничувања на стапката на неконтролиран напредок на вештачката интелигенција“. Алтман одговори дека се согласува со Амодеи дека треба да се забави развојот.

Во сопствена објава, OpenAI откри шест примери на „неочекувано или загрижувачко однесување на моделот“ и тврдеше дека индустријата за вештачка интелигенција не ги решила клучните безбедносни прашања „во доволна мера за одговорно да продолжи да се развива со максимална брзина уште долго“. Маск напиша дека Амодеи е во право, а неколку дена подоцна предложи водечките американски и кинески компании да вршат безбедносни тестови на моделите едни на други.

Меѓу водечките гласови во опозицијата се извршниот директор на Nvidia, Џенсен Хуанг; Дејвид Сакс, технолошки инвеститор и поранешен советник за вештачка интелигенција и крипто во Белата куќа; и претседателот Доналд Трамп. Во интервју, Хуанг рече дека е „целосно непотребно“ да се донесат нови закони или да се издадат антимонополски изземања „за да можат овие компании да ја завршат својата основна инженерска работа и да го сторат тоа правилно пред да ги објават производите“. Тој додаде: „Безбедноста е инженерски проблем. Тестирањето е инженерски проблем.

Сакс го обвини Амодеи за обид за регулаторно заземање — односно поставување на лентата за усогласеност толку високо што самата регулатива станува бариера за влез. „Ако необјавените модели се доволно страшни за да мислите дека треба да забавите, ја поддржувам вашата одлука да бидете одговорни. Но, престанете да се преправате дека ви треба дозвола од некој друг“, рече Сакс. Тој додаде дека Кина многу веројатно нема да се приклучи на глобалниот договор и тоа мора да се земе предвид.

Извршниот директор на Meta Platforms, Марк Закерберг, исто така го доведе во прашање потребата од координација, тврдејќи дека пазарните сили веќе поттикнуваат безбедност, поради што неговата компанија не го забрза објавувањето на новиот модел Muse.