Италия забрани употребата на ChatGPT

Снимка: iStock

На 31 март Италия стана първата западна страна, която предприе действия срещу чатбот с изкуствен интелект (ИИ), нареждайки временна забрана на ChatGPT. Италианският орган за защита на данните заяви, че OpenAI, създателят на ChatGPT, събира лични данни незаконно.

„Изглежда, че няма правно основание, което да подкрепя масивното събиране и обработка на лични данни с цел „обучение“ на алгоритмите, на които разчита платформата“, пише агенцията, цитирана от Quartz. Тя също така цитира тенденцията на ChatGPT да прави фактически грешки и липсата на проверка на възрастта в приложението.

Стартиран само преди 5 месеца, ChatGPT използва изкуствен интелект, за да генерира съдържание на естествено звучащ език. Хората го използват за съставяне на имейли, чернови на есета и писане на код. Лудостта около ChatGPT подтикна други компании да стартират подобни чатботове или да предоставят услуги, които използват такава технология.

Вицепремиерът на Италия разкритикува решението на агенцията за защита на данните. „Намирам решението на Гаранцията за поверителност за непропорционално“, написа Матео Салвини в Instagram. „Няма нужда да сме лицемери: проблемите с поверителността засягат почти всички онлайн услуги, необходим е здрав разум.“

Забраната идва на фона на нарастващите притеснения относно рисковете от ИИ. Технологични лидери, включително Илон Мъск и съоснователят на Apple Стив Возняк, подписаха писмо, призоваващо за пауза в обучението на AI модели, по-мощни от ChatGPT, за да се разработят и внедрят протоколи за безопасност.

Не е ясно дали забраната на Италия ще има желания ефект. Генеративният ИИсе захранва в чата на Microsoft Bing, както и в цифрови услуги като Slack и Zoom. Междувременно Bard на Google, съперник на ChatGPT, не попада под забраната.

Експертите по изкуствен интелект призоваха законодателите да задават строги въпроси за това как технологията се внедрява и от кого. Александър Модри, професор по компютри в Масачузетския технологичен институт, каза пред панел на Конгреса през март, че дори експертите не разбират точно защо ChatGPT генерира това, което прави.

В резултат на това, когато става въпрос за регулиране на такива системи, правителствата не могат да проектират политики, както биха направили за хората, според Модри. Той също така каза на панела, че тъй като фирмите често поставят друг ИИ върху базова технология като ChatGPT, е трудно да се знае кой е отговорен, когато проблемът е резултат от използването на ИИ услуга.

В изявление OpenAI каза, че работи за намаляване на личните данни в своите системи за обучение с изкуствен интелект като ChatGPT и че регулирането на изкуствения интелект е необходимо. „Очакваме с нетърпение да работим в тясно сътрудничество с [италианската агенция за данни] и да ги образоваме как се изграждат и използват нашите системи“, каза компанията.