Пионерите на вештачката интелигенција предупредуваат: „Никој не знае да даде разумна проценка за ризикот
Автор: Редакција на FinPortal.mk ·
Истражувачи од водечките лаборатории за вештачка интелигенција Anthropic, OpenAI и Google DeepMind во изминатата недела едногласно предупредија за потенцијално катастрофални ризици од развојот на оваа технологија. Предупредувањата предизвикаа политичка бура во Вашингтон, откако американскиот претседател Доналд Трамп во понеделникот остро реагираше на сè погласното барање за регулација на вештачката интелигенција. Истовремено, челниците на технолошките компании Сем Алтман, Дарио Амодеи, Демис Хасабис и Илон Маск покажаа ретка согласност во повиците за забавување и надзор. Меѓу пионерите кои јавно ја изразија својата загрижост е Јошуа Бенжио, канадски компјутерски научник кого го сметаат за централен пионер на модерното длабоко учење. Тој на 9 септември, реагирајќи на оставката на истражувачот од Anthropic, Џејкоб Коксон, изјави дека научниците во најнапредните лаборатории имаат единствен увид во најмоќните модели и дека често ги гледаат поврзаните ризици месеци пред моделите да бидат пуштени во јавноста. Според него, нивната перспектива е од витално значење за информирање на општеството и треба да се сфати многу сериозно. Коксон претходно предупреди дека вештачката интелигенција би можела „да нè убие сите до крајот на деценијата“. Во својот блог објавен во петокот, Бенжио нагласи дека денешните системи за вештачка интелигенција веќе поседуваат потребни хакерски вештини и моќ на убедување за да бидат свртени против човечките интереси на сериозно штетни начини. Тој додаде дека неодамнешните настани покажале дека вештачката интелигенција може да планира со денови или недели, а ризиците би биле „многу полоши“ доколку нејзината способност за долгорочно стратегирање продолжи да напредува. Неговата загрижост со моменталните обиди на компаниите да го ублажат неприлагодувањето е дека тие напори може само да го прикријат проблемот, наградувајќи ги и избирајќи ги системите што мамат без да бидат фатени. Џефри Хинтон, почесен професор на Универзитетот во Торонто и пионер на невр