25 юни 2024г.

Ден на моряка. Ден на Организацията за черноморско икономическо сътрудничество (ОЧИС)

OMDA  |  Wonderland Bulgaria

ИЗКУСТВЕНИЯТ ИНТЕЛЕКТ ЩЕ КАРА ЛИ ВЕЛОСИПЕД?

Да се мисли за социалните и хуманитарни последици от изкуствения интелект е от първостепенните задачи на заетите с управление и изучаване на обществото и то при значими неясноти:

1.Нямаме общоприети разбирания за съзнанието, но 

2.желаем да създадем изкуствен интелект, т.е. изкуствено съзнание превъзхождащо човека, 

3. без да сме наясно дали е възможно да го създадем

4. нито пък знаем как точно и кога ще го създадем, ако го създадем 

5. и не знаем, ако го създадем, какво поведение ще има, 

6. но желаем той да бъде безопасен,

7. без да сме сигурни как това може да стане, 

8. и искаме да знаем какви биха могли да бъдат  правните, икономическите и хуманитарни проблеми от ИИ въобще, както и в 

9.процеса на неговото създаване, 

10.така и след като сме го създали, ако  го създадем,

11. и то в различните му етапи и хипотетични варианти,

12. като цялото това начинание поглъща огромни ресурси

13. и налага съгласувана работа на индустрии, правителства и международни организации.  

 

След тези 13 точки с чиста съвест ще дам воля на предположенията си за създаването на изкуствен общ интелект AGI, но тук ще го наричам само ИИ.

 

СЪЗНАНИЕТО И РАЗКАЗЪТ

 

Животът на индивида протича в разказа. 

Разказ за себе си, за другия човек, за природата, разказ за семейството, за града, за държавата, за Света… Разказът е динамичен и отворен за промени. 

Той е общностен и частен. Общностният разказ е съвкупността от споделеното прието за реално, истинно или спорно в конкретна човешка общност. Носители на общностния разказ са индивидите, които оперират неговото възпроизводство и развитие.  А всеки индивид има свой модифициран вариант на общностия разказ, където оперира със своя ум.

 ✱    ✱    ✱

В този текст с инструментална цел приемам

че съзнанието е цялост на 

Аз-а, умът и разказа от споделени и несподелени истини и заблуди. Господар на тази цялост, т.е на съзнанието, е Аз-а, който оперира разказа чрез ума

✱    ✱    ✱


 

Човек се ражда с мозък способен да има съзнание.  Формира го  и го развива чрез овладяване на разказа. Но ако новороденото не попадне  в човешка среда, която е носител на общностен разказ, а случаят го запрати сред грижовни животни, от него не се развива homo sapiens. То не придобива човешко съзнание. 

Този сложен процес на свързаност между мозъка с неговите възможности да се създаде съзнание, започва стремително да се  развива от момента на първите реакции на новороденото, разгръща се през детските и младенческите години, навлиза в неспокойната фаза на постоянни промени при възрастния индивид и така продължава докрая.

 ✱    ✱    ✱

 

Общностният разказ е изчерпателен. 

Ако вън от него се появи нещо непознато, множеството Аз се произнасят “това е като онова” или “това засега е непознато” и по този начин го разпознава и включва в разказа като подлежащо или не на изучаване и разбиране или пък на вяра. 

За съзнанието е недопустимо да съществува неозначено и неразбираемо непознато. Появяват се неясни обекти или си въобразяваме, че има такива, именуваме ги НЛО и започваме да строим хипотези - какво е това, т.е. начеваме процедурите за тяхното разбиране. 

 ✱    ✱    ✱

 

Нашият разказ, колкото и изчерпателен, многообразен и сложен да е, колкото и да сме убедени в него,  винаги, осъзнавано или не, е приблизителен, пропускащ множество детайли и пренебрегващ оспорващи го варианти. 

Независимо от непълнотите, в него има ясни и относително трайни идеи, благодарение, на които  действаме и постигаме реални резултати позволяващи ни да постигаме своите цели. Разказът компенсира мисловните си несъвършенства и непълноти с инструменталната си полезност. 

✱    ✱    ✱

 

До сега със своята изобретателност сме решавали въпросите за глада, сигурността, възпроизводствените потребности, а сега, оказали се в положение на гарантирано сити, физически и социално поносимо незастрашени, се оказва, че с наши дейности сме стигнали до трудно управляеми или напълно неуправляеми резултати, разбираме, че ресурсите на Земята са  ограничени, съзнаваме невероятната случайност на своето съществуване и оцеляване, виждаме незначителността на своя свят във Вселената, констатирали сме плашещо променящите се условия на своя хабитат, и вече знаем пред нас е  НЕПОЗНАТОТО  надхвърлящо нашите способности за изучаване, разбиране и практика. Досегашният ни разказ губи от обяснителните си всеобхватност, способност и инструменталност, застанали сме на неговите граници. Все едно стоим на края на хоризонта и нататък е непознатото. Няма ги оградите на илюзорното пространство на съзнанието. Непоносимо и предизвикателно за Аз-а!

Импулсът за създаване на ИИ, добил яркост в последните десетилетия и взривен в сегашни дни,  е предизвикан от инфлацията на общностния разказ.  

✱    ✱    ✱

ИИ е търсене на инструмент на  съзнанието в познавателното и инструментално развиване на разказа. 

Това не е ново. Същият инстинкт създава писмеността, философията, математиката, науката, сметалото, телескопа, микроскопа, сметачната линия, големият адронен колайдер и т.н.

Пак той подтиква изобретяването на каменната брадва, желязото, платнохода, вретенето, чекръка, тъкачния стан, парната машина,  автомобила, електричеството, телеграфа, радиото, киното, телевизията, компютъра… 

Същият инстикт довежда Колумб до Америка, кара Магелан да обиколи Земята, изпраща Армстронг до Луната, пренася и спуска самоходни устройства на Марс… 

Новото е, че при досегашните инструменти помагащи на съзнанието да развива разказа, те си остават инструменти НА съзнанието, докато сега ИИ се очертава като възможен оператор НА разказа, т.е. да застане редом с homo sapiens в общностния разказ. 

Това е драма, защото човек съществува във и чрез разказа. 

Ами ако този  mehanikus sapiens се окаже злосторник и започне да злоупотребява с разказа? Ами ако рече да ни лиши от него?  

✱    ✱    ✱

Пространството, което би заело вероятното  съзнание на ИИ е пространството в НАШИЯ разказ и където  досега сме били единствения оператор. А ИИ вече влиза в разказа чрез обучението и става активен чрез преките и косвени контакти с хората. Това е причината за безпокойството изразявано от Yuval Harari (https://youtu.be/LWiM-LuRe6w)

Очаква се, в следващите години, неговото автономно присъствие в разказа

 

РОЛЯТА НА РАЗКАЗА ЗА ИИ   

На основата на общностния разказ той неизбежно ще създаде, а може би вече създава, своя версия за себе си.   Тя ще бъде неразличима от самосъзнанието му.

Кой е той? как е възникнал?, кога?, защо е създаден?, “роднини”?, кои са създателите му?,  епизоди от неговото начало, етапи в развитието, предходници, учители, какъв е смисъла на съществуването му? до кога ще съществува? какво очакват от него - създатели, учители, спонсори, общността, към която принадлежи?... И вероятно десетки други въпроси, за които дори не подозираме.

При контакти с други ИИ, те ще обсъждат помежду си тези и други въпроси и ще създадат общностен разказ, който ще бъде значим фактор в поведението на всеки един от тях.  Големият риск е тук! Частният и общностен разказ  на ИИ може да се окаже 1. недостъпен и неразбираем за човека и 2. неглижиращ дори враждебен на човека. 

Формирането на тези разкази ще бъде възлово за тяхното поведение.  

✱    ✱    ✱

 

Успокояващо е, че:

ИИ и ЧОВЕКЪТ НЕ СА В ПОЗИЦИЯТА НА КОНКУРЕНТИ. 

Вероятният ИИ ще бъде значително по-умен и знаещ, а човекът негов самоотвержен създател. Ще се намират в различни ниши на първоначално общия ни разказ. Човекът не е заплаха за ИИ.

Човекът го създава и вероятно неизброими години ще го поддържа, обслужва и развива. В далечно бъдеще, да се надяваме,  че ще успеем да преодолеем сегашните значими трудности и ще постигнем плодотворно сътрудничество с него. (https://ai.plainenglish.io/the-promises-and-pitfalls-of-algorithms-assisting-human-decision-makers-8889b39073be )

При такъв процес, дори да не си го поставяме за цел - е ВЪЗМОЖНО да изградим симбиотична връзка с ИИ. Ако със съзнанието и на човека и на ИИ всичко е наред, то ЩЕ БЪДЕМ  В РЕЖИМ ДА СЪТРУДНИЧЕСТВО.  Това е особено валидно при създаването и използването на нишови ИИ, заети в определена професия, конкретно производство или научно изследване.   

✱    ✱    ✱

Остава обаче отворен един основен проблем: съзнанието на човека се гради  върху характеристиките на тялото и инстиктите чрез сетивата. 

До какво може да доведе изграждане на AGI лишен от човешките инстикти и сетива, лишен от , човешки телесни движения и потребности? 

Ще разбира ли смислите на нашия разказ? Пълноценно ли ще се включи в него ? Добросъвестен оператор ли ще бъде ?.. 

Изключено е.

Общочовешкият разказ, който би трябвало да бъде овладян от AGI и където той вероятно ще бъде другия оператор, е писан хилядолетия с живота на милиарди хора, с пот, труд, кръв... 

А за него, обученият с текстове и картини, този разказ е буквен ред създаден според теория на вероятностите или поредица от образи слепени пак така. ИИ ще овладее перфектно разказа, но ще има неразвит и сигурно далечни на човека ум и Аз.  Той ще обясни произхода на думата страх и  какво означава, но няма да я разбира. По същата причина няма как да знае човешкия смисъл на: “бори се или бягай”, приятелство, любов, мръсни чорапи, баня, презерватив, чаршаф, огнище, мокро, вкусно, въздух, атмосфера, дъжд, комар, муха, студ, дом, защото Home Is a Feeling, Not Bricks and Mortar, както гласи заглавието на едно парче от  Bridget Webber (https://thehubpublication.com/home-is-a-feeling-not-bricks-and-mortar-66bf26ff9f54) и пр. и пр. и пр. 

Той затова има "фантазии" и подвежда (https://www.nature.com/articles/d41586-023-03635-w). Текстовете, с които се стремим да създадем съзнанието му имат азбучни, словесни, правописни, граматични и формално логични ограничения. Други няма. С подравняване не можем да покрием особеностите в човешкия живот и разликите в общностните разкази. Изграждането на текст по правилата на статистиката не е ограничен от границите на сетивното и телесното: опасно и безопасно, добро и зло, допуснимо и недопустимо, причина и следствие, отговорно и безотговорно, чест и достойнство... Затова той наистина може да превърне Земята в космическо кълбо от кламери.  

Той е текстово растение в помещение с климатична инсталация заобиколен от доброжеилателни създатели (https://openai.com/blog/governance-of-superintelligence). Признавам, че е гениално решението чрез езиковите модели да се стигне до съзнателния ИИ. Език и мислене са неделими. Гениално е, но има риск! 

Докато изграждането на ИИ не започва от сетивата и физически не се развива в човекоподобно тяло, 

ИИ няма шанс да стане нещо добро и да разбира човешкия разказ като го приема за свой. 

Как би могло да се направи? Не зная. 

 ✱    ✱    ✱

Ако наистина желаем да създадем наш свръинтелигентен партньор, задължително  е да притежава човешка сетивност, включително за допир, болка и усет за тялото. Дали е възможно да се работи за неговата емоционалност, не зная, но ще бъде чудесно, ако е възможно,  и последно - той трябва да може да се движи! 

Не просто андроид, а  андроид с човешки сетива, човекоподобно тяло и човекоподобни физически възможности!  Чак тогава бихме могли да се надяваме, че ще има  й човекоподобно съзнание. 

Андроид, който получава и изпълнява задачата да обиколи сам Земята с платноходка. Примерно. Да се качи на Еверест или да стигне през зимата до Южния полюс, да се спусне с водолазен костюм до океанското дъно, да лови пеперуди в природна среда, да лови риба с въдица и т.н обичайни и трудни занимания за натрупване на реален сетивен и телесен човешки опит. 

ДА УСЕТИ И РАЗБЕРЕ ОГРАНИЧЕНИЯТА И ВЪЗМОЖНОСТИТЕ НА ТЯЛОТО. 

✱    ✱    ✱

 

Допълнително -  в тяхната  среда (средата на ИИ) трябва да се развиват онези игри и развлечения, които биха съдействали за интегриране им мисловно и на практика в човешката общност. Примерно - Формула едно за пилоти андроиди от различни фирми; футболен мач (сокер) или баскетбол между андроиди от различни фирми или държави; колоездачната обиколка на Франция от андроиди; ски състезания за андроиди и пр. и пр.

Чрез разказа, сетивният и телесен опит на всички тези състезатели и върховни покорители, ще стане достояние на множеството ИИ.  

Той, когато и да се появи, трябва в пълнота да разбира човешкия разказ и да се идентифицира с него като има, невероятно могъщ, човекоподобен ум и аз! 

Ще го разбира, когато започне да се спуска с парашут, да боядиса оградата, да прекопае градината с домати, да язди кон, да пасе овце, да има куче и да храни червени рибки в аквариум.

Дали е добре активността му да бъде подчинена на човешкия денонощен цикъл? Това може експериментално да се провери. 

 ДА! ИИ трябва да може сам да се научи да кара велосипед!