Служители на OpenAI, Google DeepMind и Anthropic с отворено писмо

Снимка: iStock

Служители на водещи компании за изкуствен интелект (ИИ/AI) вдигат тревога за „сериозни рискове“, породени от светкавичната еволюцията на изкуствения интелект. В отворено писмо около 13 бивши и настоящи служители на OpenAI, GoogleDeepMind и Anthropic – 11 от групата са били или са свързани с OpenAI – предупреждават, че технологичните компании с изкуствен интелект нямат надзор и прозрачност.

Те призоваха компаниите, които създават авангардни технологии за ИИ, да укрепят защитата на лицата, подаващи сигнали за нередности, и да създадат култура, която насърчава критиката. Тяхното писмо беше подкрепено от така наречените „кръстници“ на AI — Йошуа Бенгио и Джефри Хинтън — както и от компютърния учен Стюарт Ръсел, всички допринесли с основни изследвания, довели до създаването на модерен ИИ, след което станаха едни от най-големите му критици, припомня Quartz.

Понастоящем няма федерален регламент, който да регулира ИИ в САЩ. Междувременно ЕС прие окончателно закона за AI, като създаде и Европейска служба за изкуствен интелект, която трябва да играе ключова роля за прилагането на закона.

Служителите на OpenAI са обвързани със строги споразумения за поверителност. и тези, които изберат да не подпишат тези споразумения, губят своя капитал в OpenAI. Даниел Кокотайло е един от седемте автори на писмото, които са се подписали, вместо да запазят анонимност. Кокотайло е изследовател, който напусна OpenAI миналия месец „поради загуба на увереност, че ще се държи отговорно по времето на AGI [акроним за по-напреднала форма на изкуствен интелект, наречена „изкуствен общ интелект]“.

Кокотайло разкри в публикация на уебсайта си миналия месец, че се е отказал от споразумението за поверителност, губейки капитала си, за да може открито да критикува компанията.

Откритото писмо можете да прочетете тук.