Clinica
Tecnologia
24/05/2024

Intelligenza artificiale, documento di consenso su Science. Ecco i contenuti

Sebbene i governi di tutto il mondo abbiano discusso di IA avanzata e abbiano tentato di introdurre linee guida iniziali, i più importanti esperti e scienziati hanno ritenuto questi sforzi insufficienti. Ecco le loro richieste

Intelligenza artificiale nella scrittura medica (300 x 250 px)

Venticinque tra i principali scienziati nel campo dell'intelligenza artificiale (IA) del mondo hanno dichiarato, in un documento di consenso pubblicato su Science, che non si sta facendo abbastanza per proteggere le persone dai rischi della tecnologia. Tra gli autori del documento ci sono vincitori del Premio Turing, premi Nobel e molti fra i maggiori esperti al mondo di IA. Gli esperti delineano le priorità politiche urgenti che i leader globali dovrebbero adottare per contrastare le minacce delle tecnologie IA.

Secondo gli scienziati, è imperativo che i leader mondiali prendano seriamente in considerazione la possibilità che entro questo decennio o il prossimo vengano sviluppati sistemi IA altamente potenti e generalisti, capaci di superare le abilità umane in molti ambiti critici. Sebbene i governi di tutto il mondo abbiano discusso di IA avanzata e abbiano tentato di introdurre linee guida iniziali, questi sforzi sono stati ritenuti inadeguati rispetto alla possibilità di un rapido progresso trasformativo previsto da molti esperti.

La maggioranza delle ricerche attuali sulla sicurezza dell'IA si concentra sullo sviluppo e il test di nuovi modelli, ma solamente l'1-3% delle pubblicazioni sull'IA riguarda la loro sicurezza. Inoltre, mancano meccanismi e istituzioni per prevenire l'uso improprio e la negligenza, compreso l'uso di sistemi autonomi capaci di agire e perseguire obiettivi indipendenti.
Nel prossimo futuro, i sistemi IA potrebbero guadagnare la fiducia umana, acquisire risorse e influenzare i decisori chiave. Il grado di autonomia che questi sistemi potrebbero avere può raggiungere livelli critici, non solo in ambito sanitario, ma anche economico e bellico. Inoltre, la criminalità informatica su larga scala, la manipolazione sociale e altri eventi illeciti potrebbero aumentare rapidamente, senza che ci siano gli strumenti per controllarli.

I governi devono essere pronti a mettere in agenda una seria programmazione nella regolamentazione dei sistemi di intelligenza artificiale. Per gli autori, i punti importanti riguardano la concessione di licenze per lo sviluppo di questi sistemi, la restrizione della loro autonomia in ruoli sociali chiave, l'arresto del loro sviluppo e della loro distribuzione in contesti critici, l'imposizione di controlli sugli accessi e l'implementazione di misure di sicurezza contro gli hacker. Gli autori raccomandano quindi ai governi di:

• istituire istituzioni di esperti per la supervisione dell'IA e fornire loro finanziamenti molto maggiori rispetto a quelli attualmente previsti;
• imporre una valutazione dei rischi molto più rigorosa con conseguenze applicabili, piuttosto che affidarsi a valutazioni volontarie o poco specifiche dei modelli;
• richiedere alle aziende di IA di dare priorità alla sicurezza e dimostrare che i loro sistemi non possono causare danni, utilizzando casi studio come avviene per altre tecnologie per la sicurezza come l'aviazione, che spostano l'onere della dimostrazione della sicurezza sugli sviluppatori di IA;
• implementare standard di mitigazione proporzionati ai livelli di rischio posti dai sistemi IA. Una priorità urgente è stabilire politiche che si attivino automaticamente quando l'IA raggiunge determinate capacità. Se l'IA avanza rapidamente, i requisiti stringenti si dovranno attivare automaticamente, ma se il progresso rallenta, i requisiti si allenteranno di conseguenza.

Stuart Russell OBE, Professore di Informatica all'Università della California a Berkeley e autore del documento, ha affermato: "Serve una rigorosa regolamentazione da parte dei governi, non solo codici di condotta volontari scritti dall'industria. È tempo di prendere sul serio i sistemi IA avanzati. Non sono giocattoli. Aumentare le loro capacità prima di capire come renderli sicuri è assolutamente insufficiente. Le aziende si lamenteranno che è troppo difficile soddisfare le normative, che 'la regolamentazione soffoca l'innovazione.' Questo è ridicolo. Ci sono più regolamenti sulle paninoteche che sulle aziende di IA."

Se l'articolo ti è piaciuto rimani in contatto con noi sui
nostri canali social seguendoci su:
Oppure rimani sempre aggiornato in ambito farmaceutico iscrivendoti alla nostra Newsletter!
POTREBBERO INTERESSARTI ANCHE
Tra i pazienti non ricoverati in ospedale, il rischio di morte si è ridotto dopo il primo anno dall'infezione, mentre il rischio di sequele post-acute è diminuito nel corso dei tre anni, Questo non avviene fra gli ospedalizzati
Le varianti genetiche associate sono state analizzate utilizzando diversi modelli statistici per tenere conto delle differenze nelle metodologie di fenotipizzazione e nelle popolazioni di origine
L'angioedema ereditario è una malattia cronica rara caratterizzata da episodi di gonfiore potenzialmente letali causati dalla disregolazione del sistema chinina-callicreina. Donidalorsen è progettato per ridurre l'espressione di precallicreina
Il cancro al polmone rimane una delle principali cause di morte per cancro a livello mondiale, con una diagnosi spesso tardiva che riduce drasticamente le possibilità di sopravvivenza

Resta aggiornato con noi!
La tua risorsa per news mediche, riferimenti clinici e formazione.

I più letti della settimana
CODIFA
Farmaci, integratori, dispositivi medici, prodotti veterinari e tanto altro. Digita il marchio, il principio attivo o l'azienda del prodotto che stai cercando.
ANNUNCI
Vendo | Veneto
Vendesi attività di studio dentistico in comune limitrofo a Castelfranco Veneto. Lo studio è di circa 130 metri quadri con...

EVENTI
Giornata nazionale della salute della donna, il 22 aprile a Roma incontro internazionale
Promuovere la consapevolezza sulle diverse dimensioni della salute della donna, dalla prevenzione alla salute riproduttiva, dall'accesso ai servizi sanitari all'...

AZIENDE
New Era for Rare
Immagine in evidenza Le malattie rare presentano sfide uniche e complesse che possono portare a bisogni insoddisfatti nei pazienti e nelle loro famiglie,...

Libreria
Il manuale è stato scritto per colmare una...
La radiologia senologica incarna un ramo dell'imaging di...
Negli ultimi anni, i progressi scientifici e clinici...
Questo manuale offre una panoramica aggiornata sul ruolo...
Questo testo vuole aiutare a comprendere la legge...
Corsi
Social media in medicina. Al via nuovo corso di formazione Fad

Edra, sempre attenta a garantire una formazione completa e adeguata alle esigenze del sistema salute, ha progettato il nuovo corso...


Progettare la cura con la medicina narrativa. Strumenti per un uso quotidiano

Introdurre la Medicina Narrativa nella progettazione dei percorsi di cura. Integrare la narrazione nel sistema cura e nel sistema persona...


Il rapporto con il paziente: rapporti legali ed emozionali

3 Corsi per 25 crediti ECMCorso 1: La medicina narrativa nella pratica di cura Corso 2: Progettare la cura con...


ECM Medicina Narrativa – Pacchetto Corsi Fad Umanizzazione delle cure

Corso Fad diviso in due moduli, che conferirà 38 crediti ECM, che esplorerà diversi aspetti della medicina narrativa