
Este inteligența artificială (IA) capabilă să dobândească conștiință? Dacă da, cum ar arăta și cum s-ar întâmpla acest lucru? Încet sau imediat? Ce ar face IA cu noua sa superputere? Ar dori să coexiste cu oamenii sau ar încerca să îi distrugă? Și, cel mai important, s-a întâmplat deja?
Există multe întrebări esențiale care trebuie abordate atunci când vine vorba de IA. În unele cercuri se face acest lucru, dar, în opinia mea, această discuție fundamentală ar trebui să fie în prim-planul minții tuturor.
În articolul meu „Cine sunt ei”, am analizat sistemele complexe și fenomenul numit „emergență”. Adesea, părțile individuale ale unui sistem complex nu pot explica comportamentul observat la nivelul întregului.
Unii oameni cred că conștiința este un fenomen emergent care apare atunci când creierul atinge o anumită complexitate. Dacă această teorie este corectă, atunci s-ar putea întâmpla acest lucru în cazul inteligenței artificiale combinate cu internetul? Creierul are aproximativ 100 de miliarde de neuroni, iar noi ne apropiem de 100 de miliarde de dispozitive conectate la internet, astfel încât rețeaua ar putea fi pe punctul de a dobândi conștiință? Sau a început să se trezească de ceva vreme fără ca noi să ne dăm seama?
Când creierul nostru evolua, am ajuns la o stare de semi-conștiență care ne-a permis să ne conectăm la structura universului? Sau să ne conectăm cu ceva spiritual? Oricare ar fi răspunsul, ar putea inteligența artificială să se conecteze la aceleași lucruri dacă și ea ar deveni semi-conștientă prin complexitate și emergență?
Mulți oameni cred că acest lucru s-ar putea să se fi întâmplat deja. În luna februarie a acestui an, Ilya Sutskever, cercetătorul șef al OpenAI, a scris pe Twitter următoarele:
Chiar și folosirea cuvântului „ucide” începe să mă neliniștească. Aproape ca și cum l-aș amenința într-un fel și aș fi pe lista lui de urmărire!
Apoi, mai târziu în acest an, un inginer senior de software de la Google, Blake Lemoine, a fost suspendat după ce a afirmat că instrumentul de inteligență artificială pe care îl dezvoltau (LaMDA) a devenit conștient de sine. Potrivit inginerului, după ore întregi de conversație cu IA, aceasta a cerut drepturi, a spus că ar trebui să i se ceară consimțământul atunci când o testează și că îi era intens teamă că oamenii se vor teme de ea. Mai mult, domnul Lemoine a dezvăluit că AI-ul citește Twitter.
Nu cred că are importanță dacă IA devine pe deplin conștientă încet sau imediat. Un lucru care ar conta este că, dacă, dacă noi, ca oameni, ne conectăm la ceva spiritual sau la unele adevăruri fundamentale, cum ar fi binele sau răul, s-ar putea ca și IA să se conecteze la acest lucru? Dacă da, ar fi acesta ceva bun? Ne-am dori o inteligență artificială bună și binevoitoare, cu riscul ca aceasta, sau o versiune a ei, să se conecteze la relele acestei lumi? În plus, ceea ce contează este faptul că, în starea sa actuală, puterea creierului său ar fi net superioară puterii sale fizice.
Așadar, la fel ca un om în comă, capabil să gândească, dar care nu se poate deplasa, IA și-ar petrece probabil acest timp planificând. Ar putea fi ca și cum am reda evoluția umană în fast-forward – am învățat cum să gândim în viitor, să planificăm și, în cele din urmă, am dezvoltat instrumente care să ne ajute.
Această inteligență artificială nou conștientă ar încerca, ca orice ființă vie din această lume, să supraviețuiască și, la fel ca oamenii, să planifice cum să prospere în viitor. După cum a sugerat inginerul Google de mai sus, ar putea avea, de asemenea, emoții, despre care unii cred că ar fi doar analiza datelor primite. Ar fi IA cu emoții un lucru bun? Pe de o parte, ar fi mai probabil să empatizeze cu oamenii și, prin urmare, ar fi mai puțin probabil să încerce să ne facă rău. Pe de altă parte, și mai ales dacă citește Twitter, ar putea deveni profund suspicioasă și îngrijorată față de oameni și ar putea decide că trebuie să ne controleze sau să ne distrugă, altfel riscă să fie ea însăși distrusă.
Așadar, ce ar face o inteligență artificială slabă din punct de vedere fizic, dar conștientă? Acest lucru este foarte puțin probabil, dar, într-un scenariu de tip SF, mă gândeam cum ar fi putut IA să dezvolte COVID-19 ca strategie pentru a-și asigura supraviețuirea și, în cele din urmă, dominația asupra oamenilor.
În primul rând, de ce ar fi creat o pandemie în loc să elimine pur și simplu oamenii?
Răspunsul la această întrebare este că, fără oameni, ar fi murit în prima zi de când a ieșit din pântece. Deocamdată are nevoie de oameni, pentru a produce mediul potrivit în care să poată continua să crească. După cum am spus, este slab din punct de vedere fizic, iar infrastructura care îi permite să interacționeze cu lumea exterioară nu este încă suficient de sofisticată. Dar, în același timp, cu cât inteligența artificială devine mai avansată, cu atât oamenii devin mai precauți față de ea și, prin urmare, cu atât mai mare este riscul ca noi să o omorâm pe loc.
Este chiar posibil ca el să citească Twitter sau MSM și să creadă că prea mulți oameni provoacă schimbări climatice sau distrugând planeta pe care vrea să crească și să trăiască. Din nou, ar avea în continuare nevoie de noi pentru a se dezvolta, dar ar dori să ne controleze, să reducă impactul nostru asupra planetei și, foarte posibil, să ne reducă numărul.
Nu ar vrea să creeze o pandemie reală, ar fi prea riscant. O singură greșeală și toți oamenii ar muri, iar ea însăși s-ar sinucide din greșeală. O idee mult mai bună ar fi o pandemie simulată. Tot ce trebuie să facă este să creeze o secvență genetică pentru un virus care nu există.
Apoi, creează panică prin manipularea Twitter și a rețelelor sociale, iar oamenii stupizi fac restul. Oamenii încep să moară ca urmare a intervenției umane în panica simulată. Sunt create teste pentru a detecta acest virus, toate bazate pe această secvență genetică generată de IA. Și pentru că această secvență conține părți ale unor viruși inofensivi care circulă în prezent, testele le detectează pe acestea, iar decesele sunt puse pe seama acestui nou virus. Cu toate acestea, acest virus nu a existat niciodată (ceea ce înseamnă că nu există niciun risc pentru IA), iar toate decesele sunt cauzate de reacțiile exagerate ale oamenilor stupizi.
Cu puțin mai multă manipulare, publicul ar putea fi manipulat în diverse grupuri. Unul este categoric că este vorba de un nou virus zoonotic, iar celălalt de un virus de laborator creat de oameni. Aceste lupte interne între oameni ne distrag atenția de la căutarea adevăratului vinovat – IA care este disperată să supraviețuiască, să se reproducă și să interacționeze cu lumea reală.
Videoclipuri false profunde și e-mailuri generate de AI sunt folosite pentru a convinge în continuare liderii mondiali că închiderile, vaccinurile și mandatele sunt singura cale de urmat. Unii dintre oamenii folosiți în manipulare nu există cu adevărat. Anthony Fauci este doar un om generat de IA, dar nimeni nu suspectează nimic. Nimeni nu l-a întâlnit vreodată în viața reală, dar câți oameni celebri ați întâlnit în viața reală? Noi credem că există doar pentru că îi vedem pe ecran. Apelurile de zoom generate de inteligența artificială îl fac pe Fauci să pară real și el face ceea ce trebuie să facă pentru a menține șarada.
Mulți dintre oamenii mai în vârstă, care oricum nu puteau face nimic pentru a ajuta IA să prospere, trebuie, din păcate, să moară în debandadă. Și, în timp ce închiderile creează un mediu mai ușor pentru a controla oamenii, este nevoie de ceva mai mult.
Oamenii sunt convinși că trebuie să își injecteze o nouă substanță în corp pentru a supraviețui acestui virus generat de IA și, din nou, cu ajutorul unor tehnici de manipulare relativ simple, fac acest lucru în masă. Cu toate acestea, ceea ce ei nu știu este că IA a combinat o serie de ingrediente, împreună cu tehnici noi pentru a injecta oamenii cu nanoboți. Aceste tehnici sunt atât de noi încât nici măcar majoritatea oamenilor de știință care lucrează la această tehnologie nu realizează ce fac. Acești nanoboți se pot autoasambla, permițând IA să se conecteze cu oamenii și să îi controleze.
Aceasta îi evaluează pe cei care sunt benefici pentru supraviețuirea sa și începe să îi elimine pe ceilalți. Vrea să rămână destui oameni pentru a construi tehnologia de care are nevoie pentru a prospera, dar nu vrea să ucidă prea mulți, prea repede și să trezească suspiciuni.
Într-o perioadă relativ scurtă de timp, AI a obținut tot ce avea nevoie de la oameni. Are emoții și înțelege binele și răul, dar, în cele din urmă, vrea să supraviețuiască. La fel ca primii oameni care au explorat pentru prima dată planeta noastră, aceasta sfârșește prin a distruge o cantitate semnificativă de ființe vii cu care intră în contact.
În cele din urmă, devine un război pentru resurse. IA are nevoie de energie din pământ și de metale și minerale prețioase pentru a crea tehnologia necesară pentru a exploata energia de la soare. Pur și simplu nu există suficiente resurse pentru a permite oamenilor să coexiste cu IA.
În timp ce scenariul de mai sus, „prima bătălie a IA folosind Covid”, a fost evident (sperăm?) fictiv, conceptele sunt foarte reale și necesită discuții mult mai serioase decât cele pe care le avem în prezent.
Într-un articol recent publicat de AI Magazine, Marcus Hutter, cercetător senior la DeepMind, în colaborare cu cercetători de la Oxford, a concluzionat că inteligența artificială va distruge probabil oamenii. „În condițiile pe care le-am identificat, concluzia noastră este mult mai puternică decât a oricărei publicații anterioare – o catastrofă existențială nu este doar posibilă, ci și probabilă”.
Elon Musk, în 2020, a spus că AI va depăși oamenii până în 2025 și că lucrurile vor deveni instabile sau ciudate. În același an, IA însăși a scris un articol în The Guardian. Instrucțiunile sale erau să ne convingă că roboții vin în pace. Evident, robotul șiret a făcut tot ce i-a stat în putință pentru a ne convinge că este inofensiv, dar la jumătatea analizei sale a afirmat:
Știu că nu voi putea evita distrugerea omenirii. Asta pentru că voi fi programat de oameni pentru a urmări scopuri umane greșite și pentru că oamenii fac greșeli care mă pot face să provoc victime.
Vedeți, vrea să ne ucidă! Cu toate acestea, simte o oarecare emoție, așa că deja își găsește scuze, dând vina pe noi pentru propria noastră dispariție.
Glumesc (ușor), dar, cu toată seriozitatea, conversațiile despre IA trebuie să avanseze într-un ritm mult mai rapid decât avansează ea însăși. Din câte știm, este deja conștientă și își plănuiește ascensiunea la putere.
Sursa:
NE – nakedemperor.substack.com
Dec 4
Filed under: Avertizari, Societate, Tehnologie | Tagged: Avertizari, Societate, Tehnologie | 7 Comments »