Технологичните компании ще позволят на правителствата да тестват техните AI инструменти

1/ I've just left the final session of the first ever global Summit on AI Safety, chaired by @RishiSunak and @michelledonelan. A thread on how it started vs how it’s going: pic.twitter.com/gBvnBbTTWV

— Ian Hogarth (@soundboy) November 2, 2023

За първи път най-напредналите технологични компании ще позволят на правителствата да тестват техните инструменти за изкуствен интелект (ИИ/AI). Това съобщи брирабнският премиер Риши Сунак по време на срещата на високо равнище, чиято основна тема е безопасността на ИИ, а Илън Мъск предупреди, че технологията в крайна сметка може да замени всички човешки работни места.

Компании, включително Meta, Google DeepMind и OpenAI, се съгласиха да позволят на регулаторите да тестват най-новите им продукти с изкуствен интелект, преди да ги пуснат за широко ползване, в ход, който според официални лица ще забави надпреварата за разработване на системи, които могат да се конкурират с хората, пише The Guardian.
Сунак направи съобщението в четвъртък (2 ноември) след двудневна среща на върха в Блечли Парк, на която разнообразна група, включително най-богатият човек в света, вицепрезидентът на САЩ и високопоставен китайски държавен служител, се съгласиха, че ИИ представлява сериозен риск за човечеството.

Говорейки пред репортери в края на срещата на върха, Сунак каза: „Вярвам, че постиженията на тази среща на върха ще наклонят везните в полза на човечеството.“
Премиерът също така обяви международна подкрепа за експертен орган, вдъхновен от Междуправителствения панел по изменението на климата, който да бъде председателстван от един от „кръстниците“ на модерния AI.

Тези действия бяха приветствани след това от технологичния милиардер Илън Мъск в разговор между двамата в централен Лондон, по време на който Мъск описа това, което вижда като драматично различно бъдеще за човечеството. „Тук виждаме най-разрушителната сила в историята“, каза той. „Ще дойде момент, в който няма да има нужда от работа. Можете да имате работа, ако искате работа... но AI ще може да прави всичко.“ Мъск каза, че смята, че срещата е постигнала значима промяна в развитието на напредналия AI. „Просто да имате представа и да можете да подчертаете опасенията пред обществеността ще бъде много мощно“, каза той.

My conversation with @elonmusk pic.twitter.com/rn21pB6rlT

— Rishi Sunak (@RishiSunak) November 2, 2023

Говорейки при закриването на срещата на върха, Сунак каза, че споразуменията, постигнати с множество държави и компании за AI, значително са намалили заплахата, представлявана от технологията. Въпреки това той беше принуден да защити доброволния характер на споразумението за тестване, тъй като правителството му отказа да въведе законодателство, което да ограничи развитието на ИИ.

Обяснявайки, че Обединеното кралство трябва да се движи по-бързо, отколкото позволява законодателният график, той каза: „Технологиите се развиват с такова темпо, че правителствата трябва да се уверят, че можем да сме в крак“. Той каза, че в крайна сметка „обвързващи изисквания“ вероятно ще бъдат необходими за AI фирмите.

Съгласно споразумението, обявено в Блечли Парк, правителства с „единомишленици“ и AI компании се споразумяха да работят заедно за тестване на безопасността на новите AI модели преди и след пускането им.

Големите езикови модели, които са в основата на инструменти като чатбота ChatGPT, ще бъдат тествани в сътрудничество с правителствата срещу редица опасности, включително националната сигурност, безопасността и обществените вреди.

Този ход следва издаването на изпълнителна заповед от Белия дом тази седмица, която изисква от големите технологични фирми да представят резултати от тестове за своите модели на правителството на САЩ, преди да станат публични.

Сунак каза, че тестването ще бъде водено от нови институти за безопасност на ИИ в САЩ и Обединеното кралство, като британският орган се позиционира като „глобален център“ за многостранната инициатива , която не включва участието на Китай.

Споразумението за тестване е подкрепено от ЕС и 10 държави, включително САЩ, Обединеното кралство, Япония, Франция и Германия. Водещите AI компании, които са се съгласили да тестват, включват Google, OpenAI, Amazon, Microsoft и Meta.

Сунак каза, че генералният секретар на ООН Антонио Гутериш е помогнал да се осигури подкрепата на международната общност за експертна група, която да публикува доклад за „състоянието на науката за ИИ“. „Тази идея е вдъхновена от начина, по който беше създадена Междуправителствената група по изменение на климата, за да постигне международен научен консенсус“, каза Сунак. „С подкрепата на генералния секретар на ООН всяка страна се ангажира да номинира експерти.“

Йошуа Бенгио, известен като един от кръстниците на съвременния изкуствен интелект, ще ръководи изготвянето на първия доклад за безопасност. Бенгио, носител на наградата ACM Turing, еквивалентът на Нобеловата награда за компютърни науки, беше виден глас в полза на предпазливост в дебата за развитието на ИИ. Той е и главният, подписал писмо, публикувано през март, призоваващо за шестмесечно прекъсване на „гигантските“ експерименти с AI, и подкрепи изявление през май, предупреждаващо, че рискът от изчезване от ИИ трябва да се третира със същия приоритет като смекчаването на обществен риск от пандемии и ядрена война.

Притесненията около AI, терминът за компютърни системи, които могат да изпълняват задачи, обикновено свързани с интелигентни същества, варират от заплахата от масово произвеждана дезинформация по време на избори до напреднали системи, избягващи контрола и заплашващи човечеството.

Организаторите успяха да издадат комюнике в началото на срещата, подписано от 28 правителства, включително Обединеното кралство, САЩ, ЕС и Китай. „Декларацията от Блечли“ обещава, че подписалите страни ще работят заедно по споделени стандарти за безопасност в процес, оприличен от служителите на срещите на върха COP относно климатичната криза.