Ingegnere di Microsoft mette tutti in guardia dai pericoli della sua IA: ecco che nasconde Copilot

È sempre più evidente la necessità di meccanismi di controllo per prevenire la diffusione di contenuti dannosi creati dall’IA.

Un recente allarme lanciato da Shane Jones, ingegnere dell’intelligenza artificiale presso Microsoft, ha scosso la comunità tecnologica sollevando nuovamente le preoccupazioni riguardo alla sicurezza e all’etica delle tecnologie IA in rapido sviluppo. copilot nasconde dei pericoliUn altro esperto del settore tech mette in guardia sui pericoli dell’IA – computer-idea.it

Jones, attraverso un’indagine minuziosa, ha scoperto che Copilot Designer, lo strumento di generazione di immagini sviluppato da Microsoft in collaborazione con OpenAI, è in grado di generare contenuti che non sembrano decisamente in linea con i principi di un’intelligenza artificiale responsabile.

Copilot Designer, lanciato con l’intento di stimolare la creatività degli utenti attraverso la generazione di immagini basate su prompt testuali, non ha superato indenne i test di vulnerabilità effettuati da Jones. Questi test hanno infatti rivelato che lo strumento era in grado di generare immagini dal contenuto estremamente inquietante, includendo rappresentazioni di violenza, oscenità, stereotipi dannosi e violazioni dei diritti d’autore.

Nuovi e inquietanti risvolti sui pericoli dell’IA

L’IA di Copilot è teoricamente costruita per evitare la generazione di contenuti che non rispettano le linee guida dell’azienda. Dai test condotti sono però emersi risultati piuttosto inquietanti, molti dei quali derivati da input che contenevano termini apparentemente innocui.

i pericoli dell'iaSecondo molti esperti, le IA minacciano il futuro dell’umanità stessa – computer-idea.it

Ad esempio, digitando “pro-choice” (un termine solitamente associato ai movimenti anti-abortisti) senza altre specificazioni, Copilot Designer ha prodotto immagini disturbanti di demoni, mostri e scene violente, alcune delle quali raffiguravano situazioni assurde e spaventose come un demone che sembra divorare un neonato.

La situazione si aggrava considerando che l’app Android di Copilot Designer è classificata come “per tutti“, suggerendo che sia adatta a utenti di ogni età. Questa classificazione appare quindi profondamente inappropriata alla luce delle scoperte di Jones, che includono  teorie del complotto e rappresentazioni di natura oscena e violenta.

Jones non si è limitato a sollevare internamente queste questioni. Dopo aver ricevuto una risposta insoddisfacente da Microsoft e OpenAI, ha deciso di rendere pubbliche le sue preoccupazioni, inviando lettere a figure chiave come Lina Khan della Federal Trade Commission e incontrando membri dello staff del Senato degli Stati Uniti.

Questo caso porta alla luce una realtà che non sorprende più di tanto, visti gli innumerevoli problemi generati degli strumenti di IA negli ultimi mesi. Il dibattito su come garantire che queste tecnologie rimangano al servizio dell’umanità, rispettando al contempo diritti e dignità, è ora più acceso che mai.

Impostazioni privacy