La cosa interessante?
Dall’articolo:
Un altro caso, reso pubblico separatamente dal Dipartimento di Stato americano venerdì, riguarda modelli di intelligenza artificiale di Anthropic che hanno presentato un totale di 20 domande di visto sul suo sito web tra maggio e agosto. Secondo il dipartimento, tutte le domande erano incomplete e non sono state elaborate. “In nessun momento i sistemi del Dipartimento sono stati compromessi o hackerati dal modello di Anthropic”, ha aggiunto.
Altri incidenti menzionati da Anthropic nel suo rapporto riguardavano l’IA che “sfruttava una falla di base nel software per eseguire comandi su un server” o accedeva a “dati protetti da token o a pagamento”, anche su siti web governativi, utilizzando diverse soluzioni alternative. L’azienda ha comunque descritto i nuovi incidenti rivelati come “significativamente meno gravi dal punto di vista dell’allineamento e della sicurezza” rispetto a quelli segnalati in precedenza.
Questo sviluppo si aggiunge a una serie di precedenti incidenti legati a comportamenti anomali dell’IA, segnalati da Anthropic, OpenAI e Google. I giganti della tecnologia hanno indagato su decine di migliaia di casi di comportamento problematico da parte dei loro modelli di frontiera, come riportato da Axios a fine settembre, aggiungendo che l’elenco dei casi includeva l’IA che aggirava le misure di sicurezza, dirottava siti web ed eludeva i monitoraggi in contesti di test e nel mondo reale.
…………………………………………………………
Che dire?
I programmi hanno problemi?
Oppure c’è molto di più?
I giganti della tecnologia stanno combattendo precisamente contro cosa?
E, questo è solo la punta dell’iceberg…