Раководителите на OpenAI и Anthropic бараат од ОН глобални стандарди за вештачката интелигенција
Раководителите на OpenAI, Anthropic и Hugging Face им порачаа на Обединетите нации дека сегашното темпо на развој на вештачката интелигенција и ризиците што таа ги носи за општеството бараат меѓународна координација. Сем Алтман од OpenAI побара заеднички стандарди за проценка на ризикот, исто како и Дарио Амодеи од Anthropic, главен конкурент на OpenAI, и Клеман Деланг од Hugging Face.
Алтман нагласи дека најважните одлуки не смеат да останат само во рацете на лабораториите во Сан Франциско, доколку вештачката интелигенција треба да биде демократска. Тој побара земјите да почнат да работат заедно за „колективното добро пред моќната нова технологија“ и се заложи за национални и меѓународни стандарди за мерење на способностите на алатките со вештачка интелигенција, проценка на поврзаните ризици, заштитни мерки и степенот на човечки надзор. Алтман побара и брзо пријавување инциденти, како и протоколи за класификација и известување, „за да може светот да учи од неуспесите пред тие да станат катастрофи“.
Амодеи оцени дека вештачката интелигенција, ако се управува лошо, може да биде ризик за човештвото во целина и дека понатамошниот развој на овие алатки бара уште построги безбедносни стандарди. Тој вети дека неговата компанија ќе забави онолку колку што е потребно за да биде сигурно дека секоја нова технологија што ја објавува е навистина безбедна, но предупреди дека управувањето со ризиците е поголемо од која било поединечна компанија и има индустриски и глобален размер. Деланг од Hugging Face порача дека на глобалната заедница се потребни посилни стандарди за следење и откривање инциденти.
На истиот собир во ОН, сепак, беше изразен и спротивен став. Мајкл Крациос, поранешен директор во Uber и клучен технолошки советник на американскиот претседател Доналд Трамп, ја отфрли идејата за нов облик на регулација на вештачката интелигенција. Тој призна дека темпото на развој се забрзува и дека технологијата носи ризици, но оцени дека тоа не е доволна причина „да се запре развојот или да се ограничи со нови структури на глобално управување“. Крациос додаде дека меѓународниот дијалог не смее да се движи кон глобално управување, повторувајќи ги сличните пораки што Трамп ги упати во претходните недели.
Сите тројца раководители се со седиште во САД и се директно вклучени во развојот на технологијата. Hugging Face, платформа за развивачи на вештачка интелигенција, неодамна стана поактуелна откако призна дека била хакната од агенти со вештачка интелигенција, односно ботови што дејствуваат донекаде автономно, а кои потекнуваат од OpenAI. Компанијата оттогаш е преземена од производителот на чипови за вештачка интелигенција Nvidia, а самиот напад во индустријата се третира како сигнал за будење поради начинот на кој технологијата напредува.