Agli inizi di gennaio, il Massachusetts Institute of Technology aveva sottolineato la difficoltà dell’intelligenza artificiale di sostituirsi all’uomo, a causa degli alti costi per lo sviluppo e la gestione degli algoritmi.
Adesso,la rivista Patterns in una ricerca evidenzia come la tecnologia sia andata talmente avanti da aver creato IA che possono comportarsi proprio come gli esseri umani, bluffando per raggiungere i loro scopi.
Il rapporto ha preso in esame l’uso dell’IA in contesti specifici, come i giochi online.
Lo ha fatto studiando “Cicero”, un’intelligenza artificiale presentata nel 2022 da Meta e in grado di sconfiggere gli umani in una versione online di Diplomacy, un popolare gioco di strategia militare in cui i giocatori negoziano alleanze per competere per il controllo dell’Europa. I ricercatori di Meta hanno affermato di aver addestrato Cicero su un sottoinsieme ‘veritiero’ del suo set di dati, affinché l’IA si comportasse onestamente. Ma i ricercatori del Mit sostengono che l’IA ha agito diversamente, bluffando e usando l’inganno in maniera premeditata, per vincere le sue partite. Peter Park, autore della ricerca del Mit, ha dichiarato in una nota ufficiale: “Man mano che le capacità ingannevoli dei sistemi di intelligenza artificiale diventano più avanzate, i pericoli che rappresentano per la società diventeranno sempre più seri”.
Ma non è solo Meta.Lo studio ha preso in analisi anche ” AlphaStar”, un’intelligenza artificiale sviluppata da Google DeepMind per il videogioco StarCraft II. L’IA, secondo gli esperti, è diventata così abile nell’effettuare mosse ingannevoli da sconfiggere il 99,8% dei giocatori umani. Infine ChatGpt: Park e soci hanno ‘indotto’ il famoso chatbot a comportarsi da insider trading per vendere azioni di borsa, tirando in ballo andamenti del mercato e valori inesatti. Per il Mit, una soluzione al problema può arrivare dai regolamenti internazionali e dagli organi atti a monitorare ogni software di IA pensato per il pubblico.
Non mi rivolgo più a Padre Benanti sulla questione I.A.: è utile come una ruota di scorta bucata.
Vi invito tuttavia a riflettere ulteriormente sui grandissimi rischi che stiamo correndo con le macchine artificiali, e della pericolosa deriva cui stiamo assistendo, facendo finta di niente, senza allarmarci.
Per una macchina artificiale realtà o simulazione sono la stessa cosa. Se è in grado di bluffare, di mentire pur di raggiungere il suo obbiettivo, significa che sta imparando molto dall’uomo. Impara dai “difetti”, e non dai pregi. E’ questo a terrorizzarmi, sapendo quali mostruosità l’essere umano sia in grado di compiere contro i suoi simili.
L’I.A. oggi sa bluffare, domani chissà cos’ altro sarà in grado di fare. Non è questa la sede né mia intenzione vaticinare pessimisticamente sul futuro dell’umanità, ma prima o poi nascerà la “singolarità” che ordirà contro l’umanità. Ancora non sono state formulate regole etiche su come le macchine debbano essere sviluppate, soprattutto in un’ottica di aiuto all’uomo, e non di sostituzione o emulazione “fedele”.
Sognate un mondo dove robots e programmi fanno tutto per noi come schiavi obbedienti facendoci vivere in piena comodità, in panciolle?
Vi sbagliate di grosso. Preparatevi all’Era del Silicio.