събота, 15 юни 2024   RSS
    Барометър | Региони | Компании | Лица | Назначения


    4479 прочитания

    Топ професор от MIT: AI системите ще имат толкова контрол, колкото им позволим, паузата в развитието им е неприложима

    AI ще трансформира софтуерната разработка, но не вярвам, че кодът за писане ще свърши и ще трябва да се пенсионираме – един от директорите на лабораторията на MIT по информатика и изкуствен интелект, проф. Армандо Солар-Лезама, пред Economy.bg
    05 април 2023, 09:45 a+ a- a

    В София се проведе четвъртата лекция от новата серия на Института за компютърни науки, изкуствен интелект и технологии (INSAIT). Събитието беше с лектор световноизвестния експерт по изкуствен интелект проф. Армандо Солар-Лезама. Той демонстрира нови методи за създаването на изкуствен интелект от следващо поколение, който се самопрограмира.

    Армандо Солар-Лезама е един от директорите на легендарната CSAIL лаборатория по информатика и изкуствен интелект в MIT (Масачузетски технологичен институт). Като докторант в UC Berkeley той измисля изцяло нов подход за синтез на програми, т.е. нова сфера в изкуствения интелект, която променя насоката на цели направления.

    Кои са предимствата и недостатъците на автоматизирането на програмирането, какво е бъдещето на AI базираната разработка на софтуер, ще заменят ли новите AI системи програмистите, кои индустрии ще бъдат най-силно засегнати, как можем да намерим баланса между ползите и рисковете от изкуствения интелект, трябва ли да има пауза в развитието му и трябва ли да продължим да развиваме нещо, което дори създателите му не разбират и не могат да контролират, какви умения да придобият младите хора днес, за да бъдат по-адаптивни към промените – тези и други въпроси коментирахме с проф. Армандо Солар-Лезама.

    Армандо, как оценявате потенциала на INSAIT?
    Наистина е вълнуващо, защото имате уникалната възможност да изградите изследователска институция от нулата. Всичко, което видях досега, е изключително любопитно – тези млади хора, които правят интересни изследвания, локацията е страхотна. Това е наистина е вълнуващ проект.

    Защо се съгласихте да участвате в събитието им?
    Познавам Мартин от много отдавна. Доста известен е в света на програмните езици и AI общността. Той е един от хората, чиито изследвания са известни по целия свят. И когато ме покани да дойда, не можах да откажа.

    Вие сте професор в MIT – един от най-иновативните университети в света. Но сте изминали дълъг път – от емигрант от Мексико до тази позиция. Почти всички университети, в които сте кандидатствали, са Ви отхвърлили, включително и 2 пъти MIT. Как запазихте мотивацията си? И какъв съвет бихте дали на други хора, изправени пред подобни предизвикателства?
    За мен винаги много мотивираща е била самата наука и по-конкретно компютърните науки. Не само защото областта е забавна, но и заради потенциала за промяна на света. А в онези моменти, когато нещата не са вървели точно както искам, винаги много ценни са били хората около мен, които са ме подкрепяли.

    Как се почувствахте, когато най-накрая бяхте приет в MIT? И оказа ли някакво влияние този опит на начина Ви на преподаване днес?
    Беше наистина вълнуващо, когато ми се обадиха, че мога да се присъединя към MIT. Това е едно от тези места, където се случват страхотни неща в различни области, не само в компютърните науки, но и в науката като цяло и в инженерството. Беше наистина сбъдната мечта. Това, което се опитвам да внуша на студентите ми, е да не се страхуват, а да опитват неща, които може и да не сработят. Част от изследователския процес е да експериментирате с неща, които никога не сте пробвали. И много пъти ще се провалите. Има много неща, които ще опитате и те няма да проработят. И това е ОК. Такъв е процесът – пробваш и се учиш от тези опити. Така се случват наистина новите идеи.

    Обучавате изкуствения интелект да пише код. Кои са предимствата и недостатъците на автоматизирането на програмирането?
    Има много потенциал. На първо място, способността за генериране на код днес ограничава развитието на по-добри коли, на повече енергийно ефективни сгради и по-добри транспортни системи. Всичко това ще стане чрез по-добър код. И да имаш възможността да пишеш код по-ефективно ще бъде огромен плюс за обществото. Считам за много вълнуващо машините да могат да правят нещо, за което традиционно сме смятали, че само хората могат да правят.

    Могат ли подобни системи да заменят програмистите?
    Не мисля. Основна характеристика на компютърните науки като цяло още от самото начало е промяната. На всеки няколко години нещата се променят. И това, което един ден се е смятало за пик на автоматизацията, сега вече се е превърнало в стандарт, върху който хората надграждат. Така че не вярвам, че изведнъж кодът за писане ще свърши и ще трябва да се пенсионираме. Това, което ще се случи, е, че способността да пишете код ще ви позволи да правите много повече отколкото досега. Точно както досегашните технологии за програмиране позволиха на отделните разработчици да правят повече, да пишат по-безопасен и по-добър код. Това е част от същата тенденция.

    Какво е бъдещето на AI базираната разработка на софтуер?
    В момента имаме много възможности, но все още са нужни доста проучвания, за да разберем как най-добре да използваме всички тези нови инструменти и как да ги включим в практиката за разработка на софтуер, така че да получим всички предимства на увеличената производителност. Но също така да се направи по начин, който няма да умножи бъговете или уязвимостите, които имаме. Искаме да сме сигурни, че тези техники се използват по начин, който осигурява по-добър софтуер, а не просто повече бъгове.

    Как можем да намерим баланса между ползите и рисковете от изкуствения интелект?
    В момента е важно да се направят необходимите проучвания, за да разберем наистина какви са възможностите на тези системи, какво могат да правят добре и къде се провалят. Точно сега го има изкушението да оставим хайпа да изпревари малко технологията. И тук е ролята на изследователската общност, особено независимите от компаниите изследователски институции, които понякога могат да бъдат малко по-обективни.

    А какво се крие зад цялата тази истерия около AI?
    Виждаме способности, които никога не сме виждали преди. И все още не знаем съвсем точно как ще ги използваме, къде точно са границите между това, което тези системи могат да правят наистина добре и къде ще се провалят. Донякъде е естествено хората да се вълнуват от това, което се случва. Но е важно да има и задълбочено проучване.

    Илън Мъск заедно с над 1000 изследователи призова за 6-месечна пауза в развитието на изкуствения интелект, за да се спре „опасната надпревара“. Колко опасна е ситуацията в момента?
    Според мен има голяма истерия и около това. Със сигурност има въодушевление около този модел. И когато има вълнение, има и несигурност относно как работи той. Но мисля, че много от най-лошите сценарии и това, което тревожи хората – тези огромни възможности на системата, доста далеч сме от това ниво. Затова считам, че е малко прибързано да призоваваме за подобно нещо. Този вид пауза, освен че е напълно неприложима, също може да има сдържащ ефект върху хората, които се опитват да разберат как работят тези системи и как можем да ги използваме, за да правим повече и да работим по-добре.

    Миналата година в анкета сред 700 топ изследователи от цял свят за рисковете от изкуствения интелект, половината от тях заявяват, че има 10% шанс AI системи да доведат до унищожение на човечеството. Трябва ли да продължим да развиваме нещо, което никой – дори създателите му, не разбират и не могат да контролират?
    Има много системи, които не разбираме.

    Смятате ли, че разбираме AI системите?
    Има много неща, които не разбираме, но въпреки това успяваме да ги използваме много добре, включително собствения си мозък. Считам, че някои от рисковете идват от начина, по който възприемаме интелекта като някаква суперсила, като магия, която може да преодолее всички препятствия. Със сигурност е много хубаво да си интелигентен. Но когато формулирате интелигентността по този начин, сякаш притежава почти божествени сили, това преувеличава възможностите, които тази система може да има в обозримо бъдеще. Така че със сигурност не съм в този лагер.

    Преди дни изследователи от Microsoft обявиха, че са установили, че GPT-4 показва „сигнали“ на човешки интелект. Как можем да овладеем изкуствения интелект, преди той да ни овладее?
    Човешкият интелект има много различни аспекти. Можете да спорите, че дори гарваните и октоподите показват характеристики, които бихте могли да определите като човешки интелект. Смятам, че е много вълнуващо какво могат да направят тези системи - начинът, по който могат да интегрират голяма част от човешкото знание, което е кодифицирано в текст и дигитализирано през последните няколко десетилетия.
    Според мен тези системи ще имат толкова контрол, колкото им позволим да имат.
    И един от основните изследователски проблеми е как да се уверим, че когато разгръщаме системите за конкретни приложения, го правим по начин, по който можем да ограничим колко щети може да причини.
    В някои отношения имате система, която потенциално може да действа по непредвидими начини. Потенциално може да действа по начин, който може да изненада потребителите ѝ. И въпросът е дали искаме такава система да управлява например вашата електрическа мрежа и потенциално да може да остави милиони хора без ток? Вероятно не.
    Едно от нещата, за които се тревожа, е, че точно заради големия хайп хората може да се доверят на тези системи повече, отколкото трябва, и могат да ги внедрят в различни области.

    Какво имате предвид?
    Има много индустрии, които са доста добре регулирани като медицината например. И вероятно не трябва да се тревожим твърде много например по отношение на AI лекари. Но има други области, които са по-малко регулирани, където хората могат да се доверят на някоя от тези системи. Например за финансов съвет. Дали наистина искате да получавате финансов съвет от чатбот? Вероятно не. Но ако звучи убедително и изглежда, че работи, много хора биха го направили. И това може да не бъде проблем поотделно за човека, приел подобен съвет, но ако достатъчно хора се доверят на лоши съвети от едни и същи чатботове, това може да се окаже проблем за цялата икономика например.

    Според доклад на Goldman Sachs изкуственият интелект може да автоматизира 300 милиона работни места. Кои индустрии според Вас ще са най-засегнати?
    Няма съмнение, че софтуерната разработка ще бъде трансформирана. Вероятно ще има различни инструменти за програмиране, които хората ще използват. И това ще има наистина голямо въздействие. Това не означава непременно, че всички хора, които в момента са разработчици на софтуер, ще бъдат заменени с нови. В софтуерната индустрия стандартните инструменти, които всеки използва, се променят повече или по-малко на всяко десетилетие. Хората използват напълно различни езици и инструменти от това, което са използвали преди десетилетие. Като цяло доброто образование е от съществено значение, за да се даде на хората възможност да се адаптират.

    Кои други индустрии могат да бъдат трансформирани?
    Със сигурност науката като цяло ще се трансформира доста драматично, както вече се е случвало. Голяма част от науката разчита все повече не само на големи данни, но и на задълбочено обучение (deep learning). От това да направите климатичните симулации по-ефективни до това да помогнете на хората да се справят с огромните количества данни, идващи от инструменти като Големия адронен колайдер, който разчита силно на машинно обучение. И това са дейности, които ще бъдат силно засегнати, но не непременно по лош начин.

    Какъв съвет бихте дали на младите хора днес – какви умения трябва да придобият, за да бъдат по-адаптивни към промените?
    Нещо наистина важно е да имате основите по отношение на математиката и на компютърните науки, които ви позволяват да се адаптирате към всички различни промени. Много от технологиите идват и си отиват, но основите остават. И те са нещата, върху които се гради всичко останало. Наличието на наистина солидна основа е критично за способността да се адаптираме към всички тези промени.

    Интервю: Детелина Калфова

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 1 ден
    България постигна пълна дигитална трансформация в здравеопазването за 3 години
    За по-малко от 3 години общият брой на издадените електронни рецепти надхвърля 54 млн.
    преди 1 ден
    ЕБВР инвестира 15 млн. евро в Eldrive
    Компанията ще добави 7400 станции за зареждане
    преди 1 ден
    преди 1 ден
    Дори получено на грешен имейл искането за изтриване на лични данни е задължаващо
    Вижте повече за казуса, по който в Холандия наложиха глоба от 6 хил. евро на агенция за подбор
    преди 1 ден
    Унгарска комания ще стартира в Стара Загора производство на автомобилни платки
    Друг унгарски инвеститор ще произвежда слънчеви батерии до Силистра
    преди 1 ден
    dormakaba открива център за бизнес услуги и разширява завода си в България
    Местният екип ще нарасне спрямо сегашните 260 служители