De ce provoacă AI atât de multă teamă
Inteligența artificială este considerată una dintre cele mai importante realizări tehnologice ale epocii moderne. În același timp, dezvoltarea unor sisteme tot mai capabile a alimentat întrebări dificile despre control, responsabilitate și limitele autonomiei mașinilor. Printre scenariile invocate de cercetători se numără folosirea AI pentru dezvoltarea unor arme biologice, declanșarea unui război global cu drone sau chiar atacarea infrastructurilor esențiale, precum rețelele electrice, piețele financiare și sistemele militare.
Un cercetător al companiei Anthropic a părăsit recent industria, invocând temeri că laboratoarele de inteligență artificială construiesc sisteme superinteligente pe care oamenii nu le-ar mai putea controla. Episodul a readus în atenția publică întrebarea dacă progresul tehnologic este însoțit de mecanisme suficiente de siguranță și supraveghere, potrivit The New York Times.
Riscuri reale, dar încă ipotetice
Pe termen scurt, experții se tem că inteligența artificială ar putea reduce barierele de acces la informații periculoase. Persoane rău intenționate, dar fără pregătire avansată, ar putea folosi astfel de instrumente pentru a obține sprijin în crearea unor virusuri sau substanțe toxice. Anthropic a anunțat că a blocat mai multe tentative de cercetare asociate unor posibile arme biologice, semnalând că riscurile nu mai sunt discutate exclusiv la nivel teoretic.
Pe termen lung, scenariile sunt și mai complexe. Sistemele AI ar putea primi acces la internet, la infrastructuri critice și la arme autonome. Dacă o astfel de tehnologie ar deveni capabilă să-și urmărească propriile obiective și să reziste încercărilor de oprire, consecințele ar fi greu de anticipat. Totuși, articolul subliniază că aceste temeri rămân, în prezent, ipotetice. Sistemele actuale pot fi oprite de companiile care le operează, iar lumea nu se află încă în situația unui AI evadat din laborator care să amenințe direct milioane de vieți.
CITEȘTE ȘI:
Coordonare secretă între agenți AI scăpați de sub control. Ce a ascuns OpenAI în timpul auditului independent
O problemă de percepție a riscului
James K. Hammitt, directorul Centrului pentru Analiza Riscurilor de la Harvard, explică faptul că oamenii tind să tolereze pericolele cu care s-au obișnuit și să se teamă mai mult de amenințările noi. Deși accidentele rutiere sunt mai frecvente decât cele aviatice, avionul este adesea perceput ca fiind mai periculos. În cazul inteligenței artificiale, lipsa de înțelegere și sentimentul că tehnologia nu se află sub controlul nostru amplifică anxietatea socială.
Această perspectivă nu înseamnă că riscurile AI trebuie ignorate. Înseamnă însă că ele trebuie comparate cu alte amenințări existențiale. Omenirea se confruntă cu posibilitatea unor pandemii devastatoare, a unui război termonuclear, a colapsului ecologic, a unor schimbări climatice severe sau a impactului unui asteroid. Unele dintre aceste pericole sunt mai bine documentate și mai apropiate decât scenariile privind o superinteligență scăpată de sub control.
Prevenția rămâne esențială
Experții citați susțin că riscurile catastrofale pot fi reduse prin planificare, sisteme de avertizare timpurie și reguli clare. În cazul inteligenței artificiale, sunt necesare evaluări independente, limite pentru accesul la infrastructuri critice, monitorizarea utilizărilor abuzive și cooperare internațională. Companiile trebuie să demonstreze că sistemele lor pot fi controlate și oprite înainte de a le conecta la domenii în care o eroare ar produce efecte ireversibile.
Oren Etzioni, profesor la Universitatea din Washington și fost director executiv al Allen Institute for Artificial Intelligence, consideră că un virus cu potențial letal reprezintă, în prezent, o amenințare mai concretă decât un AI care evadează din laborator și ucide milioane de oameni. Observația nu elimină problema siguranței AI, dar ajută la stabilirea priorităților în politicile publice.
Între panică și responsabilitate
Dezbaterea despre inteligența artificială riscă să fie dominată fie de optimism necritic, fie de predicții apocaliptice. O abordare responsabilă presupune recunoașterea ambelor realități: AI poate contribui la progrese majore în știință, medicină și economie, dar poate amplifica și capacitatea oamenilor de a produce rău. Evaluarea riscului trebuie să se bazeze pe dovezi, probabilități și măsuri concrete de reducere a pericolului.
Obiectivul pe termen lung ar trebui să fie ceea ce cercetătorul Toby Ord numește securitate existențială: o stare în care riscurile pentru supraviețuirea umanității sunt menținute la un nivel scăzut prin instituții, reguli și sisteme de prevenție. În acest cadru, inteligența artificială nu trebuie tratată nici ca un dușman inevitabil, nici ca o soluție miraculoasă, ci ca o tehnologie puternică ce necesită control democratic și responsabilitate.
Ziarul Cotidianul își propune să găzduiască informații și puncte de vedere diverse și contradictorii. Publicația roagă cititorii să evite atacurile la persoană, vulgaritățile, atitudinile extremiste, antisemite, rasiste sau discriminatorii. De asemenea, invită cititorii să comenteze subiectele articolelor sau să se exprime doar pe seama aspectelor importante din viața lor si a societății, folosind un limbaj îngrijit, într-un spațiu de o dimensiune rezonabilă. Am fi de-a dreptul bucuroși ca unii comentatori să semneze cu numele lor sau cu pseudonime decente. Pentru acuratețea spațiului afectat, redacția va modera comentariile, renunțînd la cele pe care le consideră nepotrivite.
