Потребителски вход

Запомни ме | Регистрация
Постинг
01.04.2023 03:34 - Изкуственият интелект: краят на човешката ера? - 2
Автор: sourteardrop Категория: Изкуство   
Прочетен: 1506 Коментари: 0 Гласове:
0


Постингът е бил сред най-популярни в категория в Blog.bg
 След като сме обучили статистическия модел, т.е. научили сме статистическите свойства на данните, когато имаме нови данни, можем да правим прогнози с определени вероятности. Тъй като тези модели са мощни и доста общи, грешките в прогнозите са много малко. Тези прогнози имат впечатляващ процент на успеваемост.

Това, разбира се, е при условие, че статистическата структура и информация в новите данни, за които правим прогнозите, са много сходни с тези в данните, върху които е обучена мрежата. Когато една мрежа предсказва, че обектът в изображението е например котка, мрежата не е създала „понятието“ за котка по време на обучението си. Тя просто разчита на статистическите характеристики, които е „научила“ за котката. За по-голяма простота нека кажем, че тези характеристики са дължината, цветът, структурата на козината, четирите лапи, опашката, формата на носа и т.н. За да се обучи една мрежа, са необходими хиляди данни за обучение, т.е. изображения на котки в различни цветове, в различни пози, с различни размери и т.н. За разлика от тях, детето се научава да разпознава котките веднага щом види една, а може би и две. То веднага създава „понятието“ за котка и това е всичко. Нещо подобно се случва и при превода от един език на друг. Чрез милиони текстове, преведени от един език на друг, „машината“ научава възможността следващата дума да е, да речем, „вода“, когато предишните думи са били „чашата е пълна“. За разлика от това, човекът, от една страна, разбира „смисъла“ на всяка дума, а от друга, има способността да се съсредоточава върху най-важните части на изречението, след като първо е разбрал „целия“ смисъл, т.е. за какво се отнася изречението.

С други думи, технологията за машинно обучение днес ни напомня за ученика, който не е разбрал нищо, но е запомнил всичко благодарение на много добрата си памет. Така, ако му се зададе въпрос за нещо, което е запомнил, или нещо много близко до него, той отговаря правилно (прогноза въз основа на статистиката). Ако въпросът е малко по-различен или думите, с които е формулиран, са различни от думите, които е запомнил, той дава грешен отговор. Същото важи и за техниките за машинно обучение. Може да разпознават обекти на снимки и лица с удивителен успех, но в същото време, ако променим малко данните по начин, по който никой човек не би могъл да забележи такава промяна, вместо „котка“ машината може да направи прогноза, например, „жилищна сграда“ (това са т. нар. в машинното обучение „противоположни примери“). Хората обработват  понятия и значения, а машините обработват статистически данни като безсъзнателен процес.

Исторически погледнато, областта на изкуствения интелект започна амбициозно някъде около 50-те години на миналия век. Тогава Тюринг поставя въпроса: „Могат ли машините да мислят?“. Тогава започват да си представят и конструират машини, които да могат да мислят – машини, основани на синтактични правила и логическа обработка на символи. Въпреки че тласъкът е даден от първите компютри, създадени по онова време, и теориите на Тюринг, тази визия и цел е продължение на многовековна философска традиция в западната философия от Платон насам. Това е тенденцията „умът“ да се тълкува като алгоритмичен процес, който обработва символи, теорията, че всяка мисъл не е нищо друго освен операции върху добре дефинирани символи/понятия в рамките на правилно дефиниран математически формализъм. Донякъде аналогично на законите на физиката, които могат да бъдат изразени чрез математически модели и символи, човешката мисъл може да бъде изразена чрез синтактични логически правила. Характерно за Хобс е, че „мисълта (разумът) не е нищо друго освен пресмятане  (reckoning)“. По-късно Лайбниц се опитва да разработи система на символен език, в която всяко понятие би имало пълно определение и символ и би могло да се изрази като функция на някои основни понятия, като по този начин цялото знание би могло да бъде представено „обективно“. Тази философска линия достига своята кулминация с логическия индивидуализъм на Ръсел и ранния Витгенщайн, който в своя класически труд „Трактат“ твърди, че знанието се състои от „отделни“ факти, които могат да бъдат изразени чрез независими логически пропозиции. Според тази философска тенденция мозъкът не е нищо друго освен алгоритъм. Мински, един от пионерите на изкуствения интелект, оприличава мозъка на „машина за месо“.

Въпреки първоначалните впечатляващи успехи през 50-те и 60-те години на миналия век, областта на изкуствения интелект не се развива. Тя вдигаше ръце, когато проблемите ставаха по-сложни. Има две основни причини:

Първо, дори ако мисловният процес може да бъде формализиран и сведен до управление на логически синтактични правила в контекста на формален език, броят на комбинациите и логическите връзки, необходими за вземане на решение, е извън възможностите на цифровите компютри.

Могат да се решат само малки проблеми. Това се дължи на сложността на реалността и на големия брой възможни непредвидени ситуации в живота. Това е все едно да поискате от шахматист да изчисли всички възможни комбинации на всички бъдещи ходове. Но това е невъзможно. Шахматистът може да изчисли само сравнително малка комбинация от бъдещи ходове; добрите шахматисти – повече, а по-малко опитните/добри шахматисти – по-малко. Освен това дори компютрите, които играят шах, далеч не следват този комбинаторен метод. Много скоро, след сравнително малък брой бъдещи ходове, необходимият брой изчисления ще отнеме толкова време, колкото е животът на нашата Вселена!

Второ, понятията не могат да бъдат описани чрез различими символи. Всяко понятие придобива значението си чрез своя контекст. То няма обективна същност. Няма точни определения. От философска гледна точка това озадачило Платон и Аристотел и е известно още от онези времена.

Човешкият ум се сблъсква с първата трудност, свързана с управлението на голям брой възможни непредвидени ситуации, като решава кое е „важно“ или не във всяка една конкретна ситуация. Механизмът на вниманието/фокуса се задейства, за да освети най-важната информация. От множеството възможни непредвидени обстоятелства голям брой от тях се изключват, както съзнателно, така и несъзнателно. Изключването на непредвидени обстоятелства е резултат от невробиологични процеси, които се развиват в мозъка, стимулирайки или дезактивирайки неврони в различни области на мозъка, и където усещанията, емоциите, чувствата, ценностните системи, преживяванията, запечатани в активната памет и в подсъзнанието, и всичко останало, което наричаме сегашно състояние на ума, работят заедно, стимулирайки съответните физически представи в невроните на мозъка, от които се определя сегашното състояние на ума. С други думи, еволюционно по-висшата част на мозъка (неокортексът), която се стимулира от процесите на мислене и възприятие (рационална), е в пълно сътрудничество с по-примитивната, ирационална част (хипоталамус, мозъчен ствол и лимбична система), за да се изключат непредвидени ситуации и по този начин да се разсъждава върху подмножество от възможни непредвидени ситуации, така че да се стигне до окончателно решение за кратко време. Често говорим за „интуиция“, за да изразим съвкупността от всички тези несъзнателни процеси, които помагат на мисленето да стигне до решения, което е основната цел на мисленето.

Както посочва Дамазио в книгата си по темата, след унищожаването на части от мозъка, свързани с емоциите, пациентите губят способността си да вземат решения. Намаляването на емоционалните способности се свързва и с прояви на нелогично интерпретируемо поведение. В крайна сметка всички знаем това от личен опит. Когато сме емоционално натоварени, логическите асоциации и решенията, които следват, не следват същия „път“, както ако бяхме в друго психическо състояние. Освен това опитът, личните ценности и социалните стереотипи на всеки човек до голяма степен определят начина, по който реагираме, и решенията, които вземаме във всеки отделен случай. Това, което се случва в мозъка, е, че всичко това автоматично (несъзнателно) регулира мрежите на взаимодействие на невроните, така че да ограничават пространството/броя на възможните непредвидени ситуации, които потенциално би трябвало да разгледаме, за да можем да вземем решение.

Нито едно от горепосочените неща не прилича на „алгоритъм“. Алгоритъмът се състои от предварително определени логически стъпки, действащи върху точно определени символи. Онези, които казват, че мозъкът е алгоритъм, или не знаят какво е алгоритъм и/или как работи мозъкът. Физико-химичните процеси, които протичат в мозъка, не са алгоритмични. И разбира се, когато говорим за физико-химични процеси, нямаме предвид ума, а физическия субстрат, съставен от неврони. Умът е потокът от субективни преживявания, той е начатакът наа творчеството и въображението. Мозъкът се състои от милиарди неврони, синапси и електрохимични процеси. Умът е съзнание. През последните двадесет години бяха проведени значителни изследвания на функционирането на мозъка и днес знаем много повече, отколкото преди няколко години. Но досега нямаме и най-малка представа как мозъкът и умът си взаимодействат. Според философа Чалмърс изучаването на мозъка е „лесният“ проблем. „Трудният“ проблем е да разберем как този комплекс от взаимодействащи си неврони и йонен обмен е свързан с това, което наричаме ум и съзнание. Науката все още не е дала отговори, а философите спорят относно тълкуването.

Вторият аспект, който отличава човешката мисъл от философския възглед, който „вижда“ ума като алгоритъм, е, че човешкият ум не борави ясно и добре с определени символи, а с неясни понятия. Кой може да дефинира понятията „щастие“, „свобода“ или „благочестие“? Последното понятие и неговата дефиниция занимава Сократ в Платоновия „Евтифрон“. В продължение на милиони години еволюция мозъкът/умът е разработил стратегии за справяне с неяснотите. „Цялото“ осмисля индивида и не е структурирано от отделни независими части. Според философа Хусерл и неговия феноменологичен подход начинът за възприемане на сложни модели е чрез създаването на първоначално неясно и неточно определено „цяло“, което след това постепенно се попълва с детайли, извлечени от предишния ни опит и спомени. Думата (частта) придобива значението си в контекста на фразата (цялото) и нашия по-общ предишен опит. Лингвистите знаят това много добре. В музиката всяка нота придобива своята музикална стойност чрез цялата мелодия. И както казва Витгенщайн, „устата се усмихва само в рамките на лицето“. С други думи, тълкуването на „частта“ зависи от „цялото“, в което тя съществува. За разлика от тях, в един цифров компютър, чието функциониране се основава на използването на формални езици, „цялото“ се изгражда от отделните елементи чрез комбинация от логически операции и синтактични правила.

С предходната дискусия се опитахме да изясним, че това, което наричаме човешки интелект, засега няма нищо общо с това, което наричаме изкуствен интелект, още по-малко с клона на изкуствения интелект, известен като машинно обучение, който в момента е движеща сила на развитието, въпреки че те могат да изглеждат сходни и да изпълняват сходни функции. Машинното обучение заимства силата си от компютърните технологии за съхраняване на огромни количества данни и много бързо извършване на числени изчисления. Тук човекът изостава, както  изостава да се справи със силата на ръката си в сравнение с булдозера. От друга страна, човешкият интелект се гради върху абстрактната сила на понятията и смисли и на съгласуваността, осигурена от вродения еволюционно творчески стремеж. Компютрите са неинтелигентни обекти. Акцентът в компютрите е върху конкретното, подробното, специфичното, конкретните данни, въз основа на които те оптимизират работата си. Компютрите се основават на алгоритми, които оптимизират с акцент върху съществуващите данни, т.е. „миналото“. Те се основават на „факти“. При човешкия интелект акцентът е върху постоянно променящото се „цяло“. Както ни казва Хайдегер, „крайната цел на едно решение в човека не е да постигне една цел, която бележи края на един път. Във всеки един момент ние пренастройваме съвкупността от преживявания и планираме действията си, като се фокусираме и избираме според настоящата ситуация и нуждите си в момента.“ Човекът не е събитие или съвкупност от събития. Човекът създава събитията и себе си, като живее в света. Както казва Пиаже, нашият интелект се създава чрез „концептуални революции“.

Разликата между човешкото творение и компютърния модел е, че това, което сме „днес“, не би могло да се предвиди  от това, което сме били „вчера“. За разлика от моделите за машинно обучение, „днес“ може да се предскаже от „вчера“. Това е мястото, където компютърът изостава. Бихме могли да кажем, че понятието „настояще“ има съвсем различно значение при човека и машината. В „машините“ настоящето придобива огромно значение, защото оптимизираме моделите си, сега и тогава, за конкретна цел. Човек, както ни казва и Паскал, забравя „настоящето“ и когато си спомня за него, то е, за да види лъча светлина, който то оставя, за да освети плановете ни за бъдещето.

Един от въпросите, които възникват, е доколко „машините“ биха могли да придобият интелект като тази на човека. Нашият отговор е: може би. И в момента се провеждат изследвания и инвестиции в тази посока, която на малко по-технически език се нарича силен изкуствен интелект. Предпоставка за това, разбира се, е да  разберем как всъщност работи човешкият интелект. Знаем някои от неговите характеристики и предпоставки. А именно памет, съзнание, смисъл. Но не знаем как точно се създават и как работят. Тоест как от физическите неврони и биохимичните процеси, протичащи в мозъка, се изгражда съзнанието в ума, как се създават понятия, идеи и значения, как се създава това, което наричаме разбиране.

Ако си позволим аналогия, ние познаваме много добре химията на ДНК и гените, които изграждат елементите на живота. Но не ние сме създали живота. Засега интелектът, който съществува в машините, е разработен от човека. Част от човешкия интелект и творчество са „имплантирани“ в „машината“, която просто извършва аритметичните действия – ако искате да го кажем така. Според нас бихме могли да говорим за „машини“ с интелект само ако те могат да генерират нови знания по време на изпълнението на програмата, а не само в процеса на разработване на програмата от програмиста. В същото време „машината“ трябва да може да „обясни“ защо и как. Самото прогнозиране не е интелект, ако не е придружено от обяснение. Усъвършенстването на „машините“, за да се преструват, че мислят, не е същото като мисленето.

От всичко казано дотук някой може да предположи, че се опитваме да омаловажим постиженията на технологията. Не е така. Постиженията са огромни и достойни за удивление, не само по отношение на приложенията, но и на научното творчество. Това, което искаме да подчертаем, е, че тази технология е – или поне трябва да бъде – това, което са били предишните, т.е. още един „инструмент“ в услуга на човека и неговите нужди. Тя е допълнителен инструмент в историческото му творческо пътуване, наречено „цивилизация“. И както всяка нова технология, тя създава нова среда, в която човекът трябва да функционира и да живее. В тази нова среда ще създадем своите нови ценности и „значения“, своя нов разказ, своята екзистенциална сфера, както би казал Киркегор.

Това, което се опитахме да подчертаем в казаното по-горе, е, че опасността не е от това, че интелектът на „машините“ ще надмине нашия. Опасността е да сведем собствения си интелект до алгоритмичното/статистическото ниво на изкуствения интелект и машинното обучение. Някои от нашите предци са вярвали, че тотемите имат жива енергия и свръхчовешки способности, и се молели на тях. Ако приписваме на „машините“, които създаваме, характеристики на свръхчовешки интелект, това ще се дължи на факта, че сме принизили достойнството на собственото си „съществуване“. С други думи, опасността е, че от творящи „същества“ ще се превърнем в „алгоритми“ или подпрограми на някакви алгоритми. Опасността е да повярваме, че сме „машини за месо“ и да отъждествим „ума“ с милиарди неврони и трилиони синапси, стимулирани от електрохимични процеси, т.е. това, което е „мозъкът“, и да  оставим да се парализира това, което умът наистина е, а именно потокът от субективни преживявания, гняв, тъга, любов, страх, радост, удоволствие, възторг, завист – да, всички те едновременно – и същевременно съзнание, осъзнаване и замисъл за сътворяване и въображение.

Изразяваме опасения, че тенденцията през последните десет години е към алгоритмизиране; превръщането ни от програмисти в програмируеми „мозъци“. От потребители, които контролират технологиите, ние все повече се превръщаме в обекти, използвани от технологиите в новата среда, в която съществуваме, свързани сме (онлайн) 365 дни в годината и постоянно предоставяме данни/информация за навиците и личния си живот. Тези данни се използват, за да ни оформят според картината, която данните и алгоритмите предвиждат за нас. Информацията, която получаваме, новините, които гледаме, и музиката, която ни препоръчват, са различни за всеки от нас. Ние се индивидуализираме, десоциализираме и по този начин по-лесно ни поставят юзди. Обучават ни да бъдем пасивни потребители, а не активни граждани.

Ако изхождаме от гореизложеното, силата и предимството на човека пред машините са неговата креативност и способността му да обяснява и обозначава света със значения. Не да реагира предсказуемо и глупаво. Именно тези елементи трябва да създадат новия „мит“ на новото време. А творчеството има две страни: способността да критикуваш и да мислиш свободно, от една страна, и общителността, от друга. Картезианците казват: „Мисля, следователно съм“ („Cogito ergo sum“). Тази сентенция за момент е изместена от друга сентенция, тази на Витгенщайн: „Разсъждението предполага език, а езикът – общество“. Затова, ако можем, бихме казали: „Мисля, следователно съществувам в обществото“. Ние не казваме „не“ на „машините“, а изтъкваме превъзходството на човека над машините и искаме общество, в което ще боравим с тях, а не те с нас,  и в което сме свободни да изразяваме своята креативност и общителност. Новите знания сами по себе си не предполагат ценностна система.

Съществува това, което знаем, но съществува и посоката, в която искаме да вървим – това, към което се стремим. Ценностите не съществуват в природата, те се създават  в нашето въображение.

През последните години се наблюдава тенденция технологиите, компютрите, кодирането и роботиката да се преподават възможно най-рано в училищата. Да, очевидно не казваме „не“. Но тази тенденция съществува в рамките подготовката за бъдещия пазар на труда; за нашата конкурентоспособност. Не се настройваме негативно по този въпрос. Това е важен аспект на образованието. Но има и друг, по-важен параметър на образованието, а именно възпитанието на граждани. От тази втора гледна точка преподаването на тези важни предмети трябва да се извършва и от другата им страна, в контекста на социалните науки, които, наред със софтуерните инженери, ще подготвят граждани, които ще живеят в новата среда; граждани с критични способности, които ще имат повишена чувствителност към фалшивото и реалното; граждани с творческо въображение, тъй като в това се състои тяхното предимство пред „машините“; граждани, които, преживявайки и живеейки в цифровата реалност (социалните мрежи и тяхната реалност са тук), в същото време няма да отслабят активното си присъствие и контакт с „реалната“ реалност; граждани, чиято цифрова реалност ще действа като допълнение към реалната реалност на „външния свят“, която няма да им предоставя дребни заместители за отдушник на техните желания и очаквания.

А „външният свят“ е неговото собствено общество, неговата собствена среда, с неговите ангажименти, зависимости, задължения, т.е. неговото социално съществуване. А социалната ипостас (съществуване) означава състрадателност, толерантност и уважение към различните. За разлика от цифровата реалност, която, както понастоящем е структуриран  моделът, по който функционират съответните платформи, е особено уязвима за насърчаване на фанатизъм, разпалване на страсти, издигане на бариери, разделяне и ограничаване. Защото алгоритмите й не са разработени, за да служат на демокрацията и откритото общество, а за да обслужват интереси, да създават клиенти и да приравняват, доколкото могат, човека с „машината“.

Тази статия песимистична ли е? Дали това е статия, от която лъха неолудизъм, която напомня за лудитите от 19-и век, които чупят машините? Точно обратното, и затова предоставяме тази статия. Да споделим с читателите нашите възгледи, които не са страх от технологиите, а, напротив, вътрешна сила на оптимизма за човека, който ще управлява,  а няма да бъде  управляван от технологиите. Оптимизмът не е пророкуване на розово бъдеще, което обещава щастие (това сме го чели и от „гурутата“ в жанра, които предвиждат имплантиране на чипове за щастие в мозъка – един вид електронен опиум). Оптимизмът означава, че приемам технологията, но боравя с нея, а не тя с мене; оптимизмът означава, че имам критично отношение към потенциално погрешни избори и най-вече оптимизмът ми произтича от моето убеждение, моето дълбоко убеждение, че „злото“ се дължи на изкривена или непълна информация. И ние сме оптимисти, защото не вярваме в решения от магьосници и вълшебни пръчици и в „готови“ решения, изкопани от миналото, а в общества, които са отворени и свободни, които се учат от грешките си, обсъждат, преосмислят целите си и създават бъдещето си, точно както функционира човешкото познание.

При това историята е творческа еволюция, както ни казва Бергсон.

*Авторът е почетен професор по машинно обучение и обработка на данни в Университета в Олборг (Дания) и член на Националната комисия по биоетика и техноетика

подготвил: Константин Константинов

image




Гласувай:
0



Няма коментари
Търсене

За този блог
Автор: sourteardrop
Категория: Изкуство
Прочетен: 4632905
Постинги: 5200
Коментари: 2777
Гласове: 1232
Календар
«  Март, 2024  
ПВСЧПСН
123
45678910
11121314151617
18192021222324
25262728293031