НАЛИЧНА  Е  НАДЕЖДАТА

Петко Симеонов

Аз съм родом от Монтана и съм израсъл в Монтана.

Не говоря за щата Монтана в САЩ, а за българския град Монтана, който е създаден от римляните през 160 година на основата на тракийско селище. Те го обявяват за град и му дават име.  Градът се намира в Северозападна България, на 50 километра от Дунав и на 100 от столицата София.  

Та в Монтана всяка година през 40-те и 50-те години на миналия век имаше панаир и за една седмица - от 17 до 23 август градът гъмжеше от хора, дошли от околните селища. Опъваше куполната си шатра циркът, появяваха се въртележки, люлеещи се лодки, издигаше се Виенско колело, разпъваха палатки различни атракции - менажерия с диви зверове, дресьор на проскубан лъв, спиртосани уродни животни, стрелбища със сачмени въздушни пушки и с хвърляне на топка, фокусници, гълтачи на огън, борци, гадатели и разни чудаци… “Най-дебелият мъж” седеше в една палатка и срещу билетче можеше да го видиш само по гащи и да го пипнеш по корема... 

Пред друга палатка някой призоваваше: “Насам, народе, насам, за пет лева куче брои до десет.”... 

За това куче-математик и за панаира в Монтана се сетих от кънтящите в Света възгласи - “насам, народе, насам, машина отговаря на въпроси”, “машина рисува”, машина пише поезия, музика…Говоря разбира се за ИИ.

 

ИИ не е атракция и няма да е тук като панаирно чудо! Той идва, за да остане, а възгласите “насам, народе…” са много разумни. Вдига се пазарен шум за вълшебната машина с ясна цел. Както казва Алтман: “ ChatGPT беше начин за връчване на известия.” (https://www.theatlantic.com/magazine/archive/2023/09/sam-altman-openai-chatgpt-gpt-4/674764/?utm_source=newsletter&utm_medium=email&utm_campaign=one-story-to-read-today&utm_content=20230724&utm_term=One%20Story%20to%20Read%20Today)

Навреме да се извести на населението, че суперинтелектът е тръгнал и ще пристигне. Да се узнае, разговаря, обсъжда, че той идва и хората и властите да се подготвят.  Не бива да има изненади. 

Създателите на ИИ са крайно предпазливи при напредъка. Те знаят, че  “суперинтелигентността може да бъде много опасна и да доведе до обезвластяване на човечеството или дори до изчезване на човека”, ( https://80000hours.org/podcast/episodes/jan-leike-superalignment/?utm_source=facebook&utm_medium=cpc&utm_campaign=KGB+-+80KMAR+-+AI+-+Traffic&utm_content=Lumped+12+Lookalikes+-+Jan+Leike+podcast+%28BF%29&fbclid=IwAR2TTexr6vUP22I1lIPFOp4R0K1H8reLWIdNu_0Icf7jMbyb_IWHrDp6sxY#transcript)

затова  когато създават GPT-4 те в продължение на осем месеца, проверяват качествата му и чак тогава той става публично достъпен. 

Опасностите от суперинтелигентност са големи, но заедно с това е ясно, че неговото присъствие в живота ще има несъизмерими последствия за организацията и функционирането на обществото и държавата и ще се отрази върху живота на всеки човек.

Рисковете от суперинтелигентността не са тема на този текст! 

Тук разисквам абстрактно, като пренебрегвам множеството променливи, все едно нищо съществено не се променя в днешния свят и приемам, че AGI е възможен

- какви тогава биха могли да бъдат социалните последици от работата на добронамерен, сътрудничещ с човека, суперинтелект. 

За да разберем социалните последици, първо трябва да помислим - в какво се изразява присъствието и работата с  ИИ за обществения и стопанския живот?

Не използвам бъдеще време, защото ИИ вече навлиза в живота. Той ще разширява досегашните си форми на присъствие - в автоматизацията и роботизацията на производството, науката, услугите, комуникациите, медиите, и постепенно ще премине границата на “досегашното”. Ще попаднем в един нов свят. 

Преминаването на границата  е започнало още с компютъра и интернет. С други думи, бъдещето е започнало вчера и сега се разгръща с дроновете, електроавтомобилите, ракетите за многократно изстрелване, поредицата GPT, стотиците ботове, Джей Уеб, мрежата от хиляди спътници на Мъск, развитието на андроидите…

Започна да се формира категорията хора, които вършат своята работа в постоянно сътрудничеството с ИИ, т.е. появиха се кълновете на симбиозата човек-ИИ или homo sapiens - AI (HS-AI). Общността на HS-AI ще бъде, според мен, на върха на социалната пирамида в обозримо време. Те ще бъдат богоподобните, за които писах (https://medium.com/@remarkable_sage_wildebeest_131/godlike-humans-or-agi-ca8e08c30907https://medium.com/@remarkable_sage_wildebeest_131/godlike-humans-or-agi-ca8e08c30907).

БОГОПОДОБНИТЕ HS-AI ЩЕ БЪДАТ НАТОВАРЕНИ С ИЗКЛЮЧИТЕЛНА ОТГОВОРНОСТ И  ЩЕ БЪДАТ НЕВЕРОЯТНО МОГЪЩИ.  

Говоря за неща, които са започнали и ще продължат може би десетилетия.

И все пак за каква промяна говорим?

За да избягам от общите думи - грандиозна, всеобхватна и прочие, реших да направя един мисловен експеримент. Как би се променила една печална сфера на човешка активност, за която имаме представа, най-малкото от филми, а има хора, които я познават в нейната реалност. 

ВОЙНАТА! 

Невъзможно е ИИ да не навлезе в армията - става дума за национална сигурност! 

Ще маркирам само видимите или познатите ми на мен, лаика, и на широката публика, оръжия. 

Съвремената война, както я виждаме в Украйна, е “подобрен” вариант и прилича на войните през 1940-те. Силно е “подобрена” - вече има участие на спътници, дронове, безпилотни катери, хиперзвукови ракети, интернет, мобилни комуникации и т.н.

Заедно с това е очевидно, че развитието на ИИ дава възможност за нов тип техника.

Не само за компютърно насищане на танковете, но и за създавене и използване в бойните действия на безекипажни танкове. 

Убеден съм, че ВПК в поне пет-шест страни вече работят по неговото създаване. Няма как да има автомобили с електродвигатели  по пътищата без шофьори, а да няма подобни танкове, артилерийски установки и картечни гнезда. Могат да се създадат безекипажни самоходни гаубици, самоходни и дистанционно управлявани минохвъргачки, картечници, миночистачи и пр.

Неизбежно ще бъде създаден андроид-войник и когато неговото производство стане по-евтино от стойността на един човек, цинично изчислен в пари, той ще стане Войникът. 

В едно предвиждане се очаква през 2029 да има десетки милиони (или повече) почти суперинтелигентни андроиди, достъпни за около $ 25K. (Андроидите значително ще превъзхождат индустриалните роботи | от д-р Пол Палаги | Средно (medium.com) Само около раждането на едно бебе в САЩ отиват, според GPT-3,5, между 10-15K. А според GPT-4 “отглеждане на дете от раждането до 18-годишна възраст (без образование в колеж или университет) възлиза на приблизително $230,000 - $290,000 (това число зависи от доходите на семейството, региона и други фактори).” 

Ясно е, че андроидът-войник в бъдеще ще бъде

Боецът във въоръжени конфликти. 

Той замества ЧОВЕК при смъртна опасност! Може да бъде цялостно възстановен при повреда и “лежи на склад”, когато “не работи”.

Дроновете или безпилотните летателни апарати няма да останат такива, каквито са. Ако споменатата война продължи, сигурно ще разберем, че се провеждат въздушни боеви между дронове. 

А в бъдещето дронове изтребители ще охраняват небето, като дистанционно управляваната ПВО ще бъде съвършено различна. Сигурно ще има битка между дрон и управляван от човек самолет.

Познатите военни самолети постепенно ще отпадат, заменяни от безпилотни подобия.  

Проблемът ще бъде, наред с промяната в оръжейните системи, да се подготвят кадри, които да стоят пред мониторите и да участват в истинска военна игра. Може да се окаже, че цялото население участва в “играта”. Цялата позната военна техника ще е неефективна и ще бъде ненужна. Ще се появят нови оръжия. 

Познатият днес войник и военачалник ще бъдат непригодни и излишни. При това положение целите на военния сблъсък ще бъдат други. Самата война ще стане коренно различна.

Можем да пофантазираме: ще видим рязко умножаване на броя на дроновете с различно предназначение; безекипажни танкове от всякакви размери; ще се появят "плъхове-къртици", които не само ще прочистват от мини, но ще помагат в настъплението на "пехотата"; минирането ще придобие фантастични измерения - ще има мини, разпознаващи "свой"-"чужд"; ще има роботи с картечници - за убиване и пленяване на жива сила; ще има рояци "комари", способни да инжектират опиати, пък и друго....

Представете си: 

Безекипажен десантен кораб ще разтовари на вражеския бряг полк андроиди, десетки безекипажни танкове и хиляди "роботи с картечници", ще литнат десетки хиляди дронове, ще забръмчат милиони "комари"...От Космоса спътници ще информират кое къде се намира и накъде се движи. А в интернет дивизии от хакери ще атакуват и обезвреждат всичко, достъпно на противника.  

Колко страни са в състояние да създадат такава армия в близките 20 години?! 

Какво значение би имало, че разполагаш с обучени войници и военачалници, старите танкове, оръдия и т.н., и в тила ти стои  едно патриотично население, поголовно въоръжено с калашници? 

САМАТА ВОЙНА ЩЕ СТАНЕ НЕЛЕПА. Дори луд не би посмял да нападне друга страна. (няма да обяснявам защо!) 

По подобен начин ще се промени и променя ВСИЧКО!

Производство (да не забравяме предстоящия бум на принтерите!), образование, здравеопазване, развлечения, научни изследвания, спортове и т.н., и т.н. Ще се появят съвършено нови отрасли в икономиката и нови области на човешка активност.

Тези промени ще засегнат ВСИЧКИ! 

И проблемът ще бъде, че промяната няма край. 

Тя ще е БЕЗКРАЕН ДИНАМИЧЕН ПРОЦЕС. 

Затова индивидът ще се озове в непознат свят, защото неговите основни нагласи и представи, с които е социализиран, имат по-бавна динамика на развитие. И тя е по-бавна както в личностен план, така и в общностен.  Затова сега възрастните хора обикновено са по-консервативни, а законодателството и учебните програми винаги трябва да “настигат” живота. 

Ценностите и идейните опори на познатия живот, ще са загубили и ще губят ефективност. 

Какъв е смисълът от това, дето се е учил и старал в работата? Какъв е смисълът от плановете за своя живот, които е имал? Как ще живее нататък?  

Индивидът ще губи  възможността да узнава и разбира информацията, да подрежда в съзнанието си новостите. В следаващите години и десетилетия той ще бъде силно затруднен, ако не и в невъзможност,  да взема решения.   Следователно  ще загуби свободната си воля.

Фундаментална загуба за homo sapiens.

Ще се повиши равнището на безпорядъка в обществото. Ще се изостри въпросът с престъпността.  Очаквано е да нарасне броят на разводите, на разболяванията,  на зависимостите от упойващи вещества, дори да има увеличение на смъртността.

Заедно с тези негативни процеси ще расте значението на техните спирачки -

УЧАСТИЕТО и ПРИНАДЛЕЖНОСТТА.

Те са неделими. 

За индивида, казвам “индивида”, но това са милиони, това са всички хора, взети поотделно, за индивида особено значение ще добие - да участва! Да работи, да е зает, да бъде признат като необходим и полезен човек и специалист, да принадлежи към общност, някой да го оценява… “Какво представлявам аз без съд!” - възкликва герой на Сартр.  

Човек чрез труда си участва във функционирането на държавата, фирмата, университета и заедно с това принадлежи към общностите, работещи за държавата, фирмата, университета и пр. 

Участието значи наличие на цел, правила, ред, т.е съществуване на ясни условия за вземане на индивидуални решения. Индивидът има свободна воля, като извършва регламентирана дейност, защото регламентът (примерът, образецът, парадигмата) е носител на общопризнат СМИСЪЛ. А свободната воля е свободна, когато има смисъл!... 

Другата сфера на участие и принадлежност е семейството. Хилядолетна институция с ясно разписани роли. 

ЗАЕТОСТТА  И  СЕМЕЙСТВОТО са видимите опори на индивида, които трябва да се укрепват! 

УЧАСТИЕТО И ПРИНАДЛЕЖНОСТТА са стълбовете на порядъка в социалната система, която е решила въпроса с глада, неграмотността и хигиената. Те определят нейната стабилност.

Бедата е, че ИИ разклаща тези стълбове.

Парадоксално, но е факт:

ИИ усилва в непозната степен ролята на политическата власт във всяка страна и поставя на изпитание възможностите на обществото да бъде управлявано. 

 

Започнах това есе от някогашния панаир в Монтана, където преди около 75 години с удивление видях най-дебелия човек. Днес съм възхитен от развитието на ИИ. Никога няма да узная как ще изглежда моята възхита след 75 години, но живея с надеждата, че  богоподобните хора - HS-AI в съюз с политическата власт ще управляват процеса на създаването и използването на суперинтелекта за доброто на човека и човечеството.