Ще се свържем до такава степен с алгоритмите, че те ще станат част от нас

Александър Иванов е на 29 години, завършил НПМГ „Акад. Любомир Чакалов“, София с профил Биология и биотехнологии. Завършва комбиниран бакалавър и магистър по биохимия в University of Oxford с отличие. Има завършен и магистър по невронаука, отново в University of Oxford. Наскоро получава и докторска степен по Системна и изчислителна невронаука, също в Оксфорд, където работи на тема „Компютърни модели на слуховата кора и обработка на звукова информация“, а също публикува няколко статии в престижни журнали по темата. Носител на престижната стипендия Cristopher Welch, присъждана на трима Нобелови лауреати. Има успешно завършени научни стажове в Cambridge University, Princeton University и IMB, Майнц, Германия. Бивш председател на Българското студентско общество в Оксфорд. Той бе основният лектор в събитието на Ratio I, Robot – I, Human на Ratio.

Economy.bg се свърза с Александър Иванов, за да ни разкаже какво представляват невронните мрежи, как имитират човешкия мозък, къде е пресечната точка между изчислителна наука и биология, ще се превърнем ли в киборги, защо трябва да работим в насока усъвършенстване на AI и други интересни теми.

Съвсем просто казано – какво е изкуствен интелект?
Изкуствен интелект е използването на компютърни алгоритми за решаването на всякакъв тип проблеми, където алгоритмите могат да стават по-добри с наличието на повече данни или могат да бъдат направени и по такъв начин, че да използват някакви логически или друг тип структури, за да разрешават конкретни проблеми и това е най-общото възможно понятие, което включва доста различни подходи. 

А какво изучава невронауката/neuroscience?
Най-генералната възможна дефиниция, изучава нервната система и всичко, свързано с нервната система, което може да е на ниво йонни канали в единични неврони и някакви молекулни взаимодействия, до взаимодействието на цели, да кажем, популации от хора или някакви други типове индивиди, тяхното поведение. Т.е. това включва целия спектър от единични клетки до групи от индивиди, които взаимодействат помежду си, най-общо казано, нервната система. 

Къде е пресечната точка между изчислителната наука и биологията?
Пресечната точка между изчислителната наука и биологията е, че количествени подходи от математика, от физика, от статистика, програмиране може да бъдат използвани, за да разберем по-добре как работят някакъв тип биологични системи – дали това ще са клетки, дали ще е нервната система, дали това ще са цели логични системи, в зависимост от това каква насоченост има. Но най-общо казано, използваме някакви способи от математика, физика, статистика, изкуствен интелект и т.н. за изучаването на биологични системи, които може да са в много различни размери.

Отново възможно най-опростено, за хора нематематици: „Що е то невронна мрежа“?
Невронната мрежа е най-общо най-абстрактното възможно представяне на свойствата на биологичните неврони под формата на някаква програма, софтуер, която може да работи на компютъра, защото невронът има 3 основни компонента:
1. има дендрити, от гръцкото дендрос дърво, което получава сигнали от други неврони или от околната среда. Например ако са неврони в ретината, те получават директно фотони от околната среда. Ако са неврони някъде примерно вътре в мозъка, те са свързани предимно с други неврони.
2. След това има тяло или сома, където тези сигнали, които пристигат се сумират, изваждат се, случва се някаква обработка и след това има
3. аксон. Чрез този аксон невронът комуникира с невроните след него.
И реално тези 3 компонента са пресъздадени в невронните мрежи. Имаме входящ сигнал към неврона, който може да бъде многоизмерен, т.е. може да е само едно число, може да са много различни числа. Имаме обработка вътре в самия неврон и след това имаме изходящ сигнал към, невроните, които са в следващите слоеве на невронните мрежи. 

На какво ниво е изкуственият интелект днес, какво може да прави?
Според мен зависи за какъв тип проблеми става дума. Такива проблеми, които могат да бъдат лесно автоматизирани или има някакъв по-очевиден алгоритъм или някакъв начин, по който могат да станат. Те може би са по-податливи. В момента най-добрите алгоритми са такива, при които знаем какъв е проблемът, знаем как да го зададем, да го програмираме. Не сме още на ниво Терминаторът и т.нар. Сингулярност, при която машините придобиват съзнание и искат да ни утрепят. 

Защото тези алгоритми са изключително специфични и реално алгоритъмът е много добър в едно конкретно нещо, но на него му е трудно да генерализира в някаква много различна среда или да не говорим за някакви различни типове задачи. Т.е. алгоритъм, който примерно разпознава лица или снимки, тотално ще се провали в това да разпознава звук. И отделно има и други проблеми. Има catastrophic forgetting, т.е. катастрофално забравяне, когато алгоритъма научава някакви нови неща, забравя лесно много от старите, защото коефициентите, след като се променят за новата задача, те вече не са толкова добри за старата. Така че още не сме там, но да отговорим и на въпроса кои типове, т.е. какво е възможно – ами възможно е примерно разпознаване на лица, разпознаване на обекти. Колите на Tesla също използват машинен интелект, т.е. карането на коли, разпознаването на звук, писането на текст даже. Дори някакви такива по-креативни поприща, примерно генериране на някакви картини, на звуци, на някакъв тип изкуство. Даже програмирането до някаква степен. Но не мисля, че трябва да се говори обезателно за съревнование и за противопоставяне, защото ние може да работим заедно и има някакви сфери, където все пак сме по-добри и реално това, което може би ще се случи е, че вместо да се противопоставяме, просто ще се свържем до такава степен с алгоритмите, че те може би просто ще станат част от нас в някаква степен. Примерно както в момента нося очила или някои хора имат байпас и т.н., по същия начин може би ще се свържем с някакви алгоритми, да кажем, чрез чиповете на Илън Мъск – Neuralink, където има доста интересен прогрес, или по някакъв друг начин. И просто това е начинът да оцелеем – да се свържем с тези машини, с тези алгоритми, да станем едни биокиборги в бъдещето. 

Но мисля, че в близките 10-15 години няма сериозна опасност даже може би повече. Ако се погледне исторически кривата на развитие винаги има някакъв hype (бел.ред.: твърде голяма публичност), както казах и по-рано excitement (от англ.: вълнение), обаче после се разбира, че не е чак така, както хората си мислят, след това пак замира процесът, след това пак се възстановява и това са т.нар. AI – изкуствен интелект зими, където хората губят малко интерес. Според мен може би не след дълго ще наблюдаваме нещо такова, защото има прекалено много hype и прекалено много се създават някакви очаквания, а не мисля, че все още имаме нужните технологии и прогрес и може би ще има леко затишие, докато някой не изобрети нещо доста вълнуващо и революционно, което да позволи някакъв такъв метафоричен скок.

Върви по синусоида, сега към дъното ли сме?
Не, сега сме още нагоре, защото хората продължават да инвестират, продължава да има hype, по някое време това просто няма да бъде оправдано. Както и с някакви други технологии. Може би до някаква степен същото се случва с тези блокчейн технологии, които са различните типове койнове, сега има NFT (non fungible tokens). Те са малко тип пирамидални схеми. Там, разбира се, че има някакви интересни технологии, но когато прекалено много се създава някакъв балон, той рано или късно се пръска и след това хората са разочаровани. И в момента според мен има до някаква степен точно такъв hype, който се създава с изкуствения интелект, който не съм сигурен дали ще бъде изпълнен. 

И това се случва от миналото, защото Розенблат, който е бил психолог, създава т.нар. персептрон, което е един вид най-простата невронна мрежа. Той е успял да покаже някакви интересни неща, примерно как разпознава някакви картинки, което за 50-те години е доста wow. Излиза в пресата – тоя робот ще се размножава сам, ще разпознава някакви неща, ще чете, ще пише, ще бъде интелигентен, нали животът ще е по-лесен от песен. Обаче това не се оправдава и някакви хора намират също някакви концептуални проблеми и общо взето хората малко губят интерес. След това пак има ново възраждане с back propagation алгоритъма, който се открива и пак има hype, но хората разбират, че реално проблемът е, че няма достатъчно компютърна мощ и данни да правят интересни неща, след това пак им писва. Но общо взето, както би казал Хегел, има някаква спирала на историята – теза, антитеза, синтеза и това до някаква степен се повтаря, така че наистина има доста яки работи, които се случват интересни, но трябва да сме все пак реалисти и мисля че със сигурност много интересни неща предстоят. 

Но имаме и още доста работа, защото ние самата нервна система не я разбираме толкова добре и даже и самите алгоритми, защото знаем математически те как работят, т.е. те са дефинирани от гледна точка на функции, производни и т.н. Само че много от математиците не са особено щастливи с тези модели Machine Learning и AI модели, защото нямаме много добра интуиция точно какво се случва, особено в по-сложните модели. Понеже те са само за да ви дам някаква идея, примерно GPT3, който може да синтезира текст, да пише Шекспир, някакви романи, той има 100 милиарда параметъра, което е горе-долу броят на невроните. GPT4, който се подготвя, той ще има 100 трилиона, което е броят на синапсите, т.е. връзките между невроните в мозъка и това е просто колосално по размер параметрично пространство, което е много трудно да бъде анализирано и разбрано. Но дори за някакви по-малки мрежи пак е трудно да разберем точно как работят. Т.е. ние знаем тя как работи, но да имаме интуиция трансформацията точно какво прави, какво се случва, защо някакви неща работят, а други – не. Примерно има т.нар. Adversarial attacks, където, да кажем, някакъв алгоритъм разпознава картинка с мен, да кажем, като Сашо, променяме няколко пикселчета тук и там, които за човек са абсолютно неразличими и машината изведнъж решава, че това е Савина примерно само с промяната на няколко пиксела. И хората не разбират точно защо това се случва. А това е много важно, защото, ако се върнем пак на голямата картина и на обществото, тези алгоритми, вече се използват за осъждането на някакви хора в Америка, за решаването на това дали да бъдат пуснати под гаранция, или не, когато се вземат някакви медицински решения, Google използват например такива алгоритми, за да назначават хора и да търсят хора. И когато имаме някакви такива наистина важни решения и неща в обществото, е от фундаментално значение да разберем те как работят и да има прозрачност, което за момента не е съвсем така. Така че със сигурност имаме още доста много работа.

Защо е важно да работим за подобряване на способностите на AI?
Ами както всяка друга технология, това ще има директно икономическо, социално и друго изражение – да подобри качеството на живот, да ни улеснява. Примерно с мрежите, които карат колите – самокаращите се коли нямат его, не се напиват, не вземат наркотици, спазват закона, т.е. ще има много по-малко жертви по пътищата. За някакви счетоводни и други типове трансакации ще се правят по-малко грешки и ще има по-малко проблеми. Също те могат да се използват и в науката, т.е. за създаването на по-добри технологии, в манифактурата, в производството – да се откриват някакви дефекти примерно в самолети, такива работи. Общо взето могат да се използват почти навсякъде, т.е. важно е да ги подобряваме, защото, първо, това ще подобри нашия начин на живот и качеството и второ, даже и от научна гледна точка чисто интелектуално са доста интересни, защото това е най-добрият ни опит да създадем нещо подобно на себе си като интелект и като възможности. Но това е моето мнение. Някои хора се опасяват, защото примерно може да останат без работа, има някакви други етични проблеми, като, да кажем, алгоритмите как ще плащат данъци. По някое време може би ще трябва да помислим за техните права, ако станат доста интелигентни и вече може би говорим за нещо като съзнание. Така че има и доста проблеми със сигурност, но това не ни е спирало в миналото да работим и да разработваме някакви неща, така че според мен си заслужава риска.

Свещеният граал за изкуствения интелект е т.нар. AGI – общ изкуствен интелект. Колко близо или далеч сме от постигането му?
Хората сме AGI. Примерно в рамките на един ден човек, да кажем, може да реши някакво математическо уравнение, да програмира нещо, да играе футбол, да се разходи, да пее, т.е. може да прави много, много различни неща с един мозък с неговия си алгоритъм. И нещо друго, което може би не споменахме – това е изключително енергийно ефективно, защото мозъкът консумира няколко вата, докато, да кажем, GPT3, който е този, големият модел за езика, той, за да се натренира са се отделили 85 тона въглероден диоксид и са използвани не знам колко мегавата, даже може би повече енергия. Така че е доста забележително не само колко различни неща можем да правим, т.е. колко можем да генерализираме, но и колко енергийно ефективно е.

Колко сме близо? Както споменах, повечето алгоритми в момента са доста идиосинкретични, т.е. специфични, и те не са генерални в този смисъл на думата. Макар че има такива опити, в близките 10-15 години не мисля, че ще успеем, не мисля, че сме чак толкова близо. 

Не мисля, че в мозъка има един алгоритъм, а мисля, че има много различни алгоритми, които взаимодействат заедно помежду си по някакъв кохерентен и синхронизиран начин. Наскоро имаше една статия, която показа, че ако се върнем пак на устройствата на невроните – дендрити, тяло и аксон, дори един единствен дендрит на биологичния неврон, за да бъде представен както трябва, трябва цяла една изкуствена невронна мрежа, а както казах, ние имаме 100 млрд. неврона със 100 трилиона връзки помежду си. И реално според мен наистина има доста неща, които се случват, но те са много добре синхронизирани. Така че може би не е реалистично да очакваме от един алгоритъм да бъде генерален и да прави всички тези неща. Това е при условие, че емулираме човешкия мозък. Защото това е единственият пример, който имаме за такъв тип изкуствен интелект, но теоретично може да се стигне до някакъв много по-различен начин до този генерален изкуствен интелект, който да не е базиран на биологията и на биологичните невронни мрежи, ами по някакъв друг начин. Това не е изключено. Има доста интересни разработки напоследък. 

Могат ли съвременните технологии да се мерят със способностите на човешкия мозък?
Ами чисто като изчислителна мощ могат, защото просто може да се съберат много компютри на едно. Примерно един много прост компютър като моя в момента може да умножи някакви гигантски матрици, докато ние това можем да го направим, но ще ни отнеме няколко дни, даже седмици. Чисто като груба сила мисля, че машините са по-напред в материала. Но има нещо друго. В смисъл компютрите, те работят по дигитален начин, докато нашият мозък е аналогов. Това какво означава? Компютрите имат транзистори и всички сме чували за закона на Мур, колко бързо се увеличава броят транзистори в единица обем, но реално всеки транзистор може да е единица или нула, т.е. има някаква бинарност. Докато невронът може да има всякакви стойности и той е аналогов, както са примерно, да кажем, някакви жици, по които тече ток, който може да е с всякакви стойности. И реално заради тези си свойства можем да правим някакви доста интересни изчисления и някакви такива процеси, които са свързани с интелекта. Те може да стават и на дигитален компютър, няма причина да не, но има явно нещо интересно също в самата биологична структура, която ни позволява да правим по-интересни процеси. Но чисто като груба сила мисля, че компютрите вече са ни задминали. По-скоро те не може да ни достигнат в това да са достатъчно чувствителни към различни типове промени. Както казах, примерно да разпознаваме един и същи обект, когато е завъртян. Защото примерно някой път, ако се завърти някакъв обект от телефон, изведнъж може да бъде разпознат като банан, въпреки че няма нищо общо. Т.е. човекът е добър в това да има някаква консистентна и логическа структура на света, който представя, докато много от тези алгоритми се учат от самите данни и до някаква степен назубрят някакви неща, вместо да извличат по-генерални принципи. И може би наистина там е нашата сила – в това да генерализираме и също да се учим от много малко примери. Защото нещо, което може би не споменахме до момента е, че за да се тренират тези коефициенти, трябва буквално десетки и стотици хиляди, даже милиони, милиарди примери, с които те да се научат. Докато примерно аз и ти, ако учим нещо ново, не ни трябват 1 млн. примера, за да разберем то как работи. Примерно ако сме играли футбол и сега започват да ни учат как да играем хандбал, има много от свойствата на футбола, които ние можем да вземем и да приложим в хандбала, за да разберем, ако хвърлим топката с някаква сила, как ще се движи, което е сходно с това да я ритнем, като я подадем на някого. Т.е. има някакви неща, които ние лесно можем да приложим. Докато за един алгоритъм това не е толкова простичко.

Т.е. излиза, че аналоговата работа може да обработи много по-сложни проблеми, отколкото цифровата.
Ами да. Това може би е малко спорно твърдение, не знам със сигурност дали е така. Но просто според мен тази пластичност, която аналоговите изчислителни машини дават, може би наистина ще има някакво значение. Вече има компании, които се опитват да комбинират дигитални и аналогови технологии, за да правят по-добри алгоритми. Сигурно не е само до това да е аналогово или дигитално, а начинът може би, по който са свързани, алгоритъмът също за учене. Но да кажем нещо, което ние имаме, а машините нямат са тези невротрансмитери като допамин и серотонин и т.н. И това, което може би всъщност е важно да кажем, е, че това за което говорих, е предимно supervised learning. Това са такива алгоритми, които казваме какъв е проблемът, казваме какво е решението и алгоритъмът да дерзае. Но има и някакви други типове проблеми. Примерно reinforcement learning, което е сходно с, да кажем, дете, което искаме нещо да направи и да се научи и му даваме някакви награди примерно шоколадче или нещо такова, но не му казваме точно какво трябва да направи, но му казваме горе-долу в каква посока, даваме му някакви награди и то трябва самó да направи някакви изводи как се случват нещата. И там идва ролята на допамина, за който много се говори, невротрансмитера на щастието, като ядем шоколад, като правим секс, като правим някакви други неща, които ни доставят удоволствие. И всъщност може да се окаже, че може би тези невротрансмитери играят някаква роля, защото те, да кажем, не са представени в невронните мрежи, макар че има някакви опити да се включат също по някакъв начин математически и алгоритмично. Но според мен все пак може би има нещо в нашия биологичен хардуер, което ни дава някакво предимство. Защото факт е, че това е единственото нещо, за което знаем, което ни дава такива способности да генерализираме и да решаваме някакви интересни проблеми. Но чисто теоретично може да има и друг начин, по който може да достигнем до такъв тип свойства, но просто това е единственото, за което знаем в момента.