Амодеи повикува на „темпирање“ на развојот на вештачката интелигенција

Извршниот директор на „Антропик“, Дарио Амодеи, објави есеј во кој ги повикува компаниите за вештачка интелигенција намерно да го забават темпото со кое ги подобруваат способностите на своите модели. Според него, ваквиот пристап не значи запирање на обуката на моделите или на техничкиот напредок, туку обезбедување доволно време компаниите да ги усогласат и заштитат своите модели, како и можност трети страни да го потврдат тоа.

Амодеи предложи план во три чекори, за кој тврди дека ќе помогне да се намали темпото на развој без „жртвување на комерцијалната предност или на водството на Соединетите Американски Држави во вештачката интелигенција“. Тој призна дека некои од чекорите можеби ќе бидат полесно остварливи од други.

Есејот е објавен откако истражувач во „Антропик“ оваа недела предизвика бура на социјалните мрежи со објавата дека ја напушта компанијата. Џејкоб Коксон, кој работел и како истражувач во главниот конкурент на „Антропик“, „ОпенAI“, изјави дека дал отказ поради загриженост дека „Антропик“ и „ОпенAI“ „се коцкаат со нашите животи“. Според него, луѓето што градат вештачка интелигенција „искрено веруваат дека таа може да нè убие сите до крајот на деценијата“.

Загриженоста дека вештачката интелигенција може да предизвика изумирање на човештвото или други катастрофални настани не е нова во истражувачките кругови. Во 2023 година, истакнати истражувачи и директори, меѓу кои и извршниот директор на „ОпенAI“, Сем Алтман, и Амодеи, потпишаа изјава според која „ублажувањето на ризикот од изумирање поради вештачката интелигенција треба да биде глобален приоритет, заедно со други општествени ризици како пандемиите и нуклеарната војна“.

Амодеи наведува дека паузирањето или забавувањето на развојот на вештачката интелигенција се разгледувало уште од 2023 година, но тогаш тоа имало „малку смисла“, бидејќи моделите не биле доволно моќни да дејствуваат во реалниот свет, ниту пак биле способни за „значителна измама, манипулација, изневерување или сајбер-напади“. Тој додава дека продолжува да верува оти вештачката интелигенција може огромно да го подобри квалитетот на човечкиот живот и дека желбата за тие придобивки не му е намалена, но тие ќе се остварат само ако технологијата се гради на вистински начин.