Експерти предупредуваат: „Темпото“ не е доволно за да се спречи катастрофа од вештачката интелигенција
Автор: Редакција на FinPortal.mk ·
Оставката на Џејкоб Коксон од компанијата „Антропик“ го означи моментот кога ризикот од вештачката интелигенција стана тема за пошироката јавност. Како што оценува Дејвид Кругер, кој повеќе од една деценија истражува вакви проблеми, вклучително како професор по вештачка интелигенција на Универзитетот во Кембриџ и на Универзитетот во Монтреал, милиони луѓе конечно почнуваат да разбираат она што експертите го знаат со години: компаниите за вештачка интелигенција коцкаат со сите наши животи, а шансите не се добри. Како одговор, извршниот директор на „Антропик“, Дарио Амодеи, предложи „темпо на развојот на границата“, предлог што го поддржаа Сем Алтман и Илон Маск. Амодеи предвидува забавување од една до две години, што би резултирало со „длабок напредок“ во техничките безбедносни мерки. Но, според Кругер, тоа не е она што е потребно на човештвото во моментов. Она што е потребно е план со кој сме сигурни дека вештачката интелигенција нема да нè убие, а тоа не е овој предлог. Според изнесените аргументи, суровата реалност е дека не знаеме како функционираат овие системи на вештачка интелигенција. Не знаеме како да спречиме тие да се однесуваат лошо, како да останеме под контрола откако ќе станат попаметни од нас, ниту како да се увериме дека не се преправаат дека се добри или дека се преправаат дека се глупави за да ги измамат нашите безбедносни тестови. Не можеме да сметаме дека овие проблеми ќе ги решиме со уште една или две години истражување. Доколку сакаме да ги намалиме ризиците од вештачката интелигенција на прифатливо ниво, она што навистина ни е потребно е итен, неопределен меѓународен мораториум врз развојот на граничната вештачка интелигенција. Геополитиката е клучната точка: како земји како САД и Кина можат да ја верификуваат усогласеноста на едни со други? Доналд Трамп неодамна ја критикуваше регулативата за вештачка интелигенција, наведувајќи ја предноста на САД во трката за вештачка интелигенција против Пекинг. Секој обид за тајна литографска операција во