Google sospende l’ingegnere che afferma che l’intelligenza artificiale è cosciente

Google ha messo uno dei suoi ingegneri in congedo amministrativo retribuito per presunta violazione delle norme sulla riservatezza dopo essersi preoccupato che un sistema di chatbot AI avesse un senso. Washington Post Rapporti. L’ingegnere Blake Lemoine lavora per l’organizzazione responsabile dell’intelligenza artificiale di Google e ha testato se il modello LaMDA genera linguaggio discriminatorio o incitamento all’odio.

Secondo quanto riferito, le preoccupazioni dell’ingegnere derivavano da risposte persuasive che vedeva come il sistema di intelligenza artificiale nato attorno ai suoi diritti e all’etica della robotica. Ad aprile ha condiviso con i dirigenti un documento intitolato “La lambda è cosciente?Contiene una trascrizione delle sue conversazioni con AI (dopo essere stato messo in congedo, Lemoine ha pubblicato il testo attraverso il suo conto medio), che secondo lui “è sensibile perché contiene sentimenti, emozioni ed esperienze soggettive”.

Google ritiene che le azioni di Lemoine relative al suo lavoro presso LaMDA abbiano violato le sue politiche di riservatezza, Il Washington Post E il Guardiano Rapporto. Secondo quanto riferito, ha chiamato un avvocato per rappresentare il sistema di intelligenza artificiale e ha parlato con un rappresentante della commissione giudiziaria della Camera sulle presunte attività non etiche di Google. in 6 giugno Post medioIl giorno in cui Lemoine è stato messo in congedo amministrativo, l’ingegnere ha detto di aver cercato “un minimo consiglio esterno per aiutare a guidare le mie indagini” e che l’elenco delle persone con cui aveva discusso includeva dipendenti del governo degli Stati Uniti.

Il gigante della ricerca ha annunciato pubblicamente LaMDA Alla conferenza di Google I/O dell’anno scorso, che spera di migliorare gli assistenti AI conversazionali e rendere le conversazioni più naturali. L’azienda utilizza già una tecnologia del modello linguistico simile alla funzione di digitazione intelligente di Gmail o per le query dei motori di ricerca.

READ  Il CEO di Applebee afferma di utilizzare i prezzi del gas e l'inflazione per tagliare i salari: rapporto

In una dichiarazione rilasciata a WaPoTuttavia, un portavoce di Google ha affermato che “non ci sono prove” che LaMDA sia cosciente. “Il nostro team – inclusi esperti di etica e tecnici – ha esaminato le preoccupazioni di Blake in base ai nostri principi di intelligenza artificiale e lo ha informato che le prove non supportavano le sue affermazioni. Gli è stato detto che non c’erano prove che Lambda fosse cosciente (e ci sono molte prove contro di lui) , ha detto il suo portavoce, Brian Gabriel.

“Naturalmente, alcuni nella più ampia comunità di IA stanno studiando la possibilità a lungo termine di un’IA cosciente o generale, ma non ha senso farlo incarnando gli attuali modelli di conversazione, che non sono consci”, ha detto Gabriel. “Questi sistemi simulano il tipo di scambio che si trova in milioni di frasi e possono approfondire qualsiasi argomento fantasioso”.

“Centinaia di ricercatori e ingegneri hanno parlato con LaMDA e non ci rendiamo conto che qualcun altro sta facendo affermazioni diffuse o incarna LaMDA, come ha fatto Blake”, ha detto Gabriel.

Intervista al professore di linguistica WaPo Ha convenuto che era sbagliato associare risposte scritte persuasive al buon senso. “Ora abbiamo macchine che possono generare parole inconsciamente, ma non abbiamo imparato a smettere di immaginare una mente dietro di loro”, ha detto la professoressa dell’Università di Washington Emily M. Bender.

Timnit Gebru, A Google ha lanciato l’eminente etica dell’IA nel 2020 (Anche se il gigante della ricerca Lei afferma di essersi dimessa), ha affermato, che il dibattito sulla consapevolezza dell’IA minaccia di “eliminare” le conversazioni etiche più importanti relative all’uso dell’IA. Invece di discutere i danni di queste società, la discriminazione di genere, il razzismo, la colonizzazione dell’IA, la centralizzazione del potere e il peso dell’uomo bianco (costruire una “buona IA”) [artificial general intelligence] per salvarci mentre quello che stanno facendo è sfruttamento), hanno trascorso l’intero fine settimana a discutere della sensazione: “Hh cinguettare. “La missione di deragliamento compiuta.”

READ  Powell ha deciso di aumentare i tassi di interesse di mezzo punto percentuale

Nonostante le sue preoccupazioni, Lemoine ha detto che intende continuare a lavorare sull’intelligenza artificiale in futuro. “La mia intenzione è quella di rimanere nel campo dell’IA, indipendentemente dal fatto che Google funzioni o meno”, ha affermato Inserito in Tweet.

Aggiornamento 13 giugno, 6:30 ET: Aggiornato con dichiarazione aggiuntiva di Google.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.