Il Punto AI del 28 agosto
Giornata segnata da una vittoria legale per Anthropic, da una crepa nei sistemi di sicurezza degli agenti AI e da forti scossoni in borsa per Alphabet. Sul fronte prodotti, Google continua a spingere sui video generati e sugli assistenti di viaggio.
Anthropic ovunque: tribunali, falle di sicurezza e trasparenza
Oggi Anthropic è al centro di più notizie che raccontano facce diverse della stessa azienda: un giudice federale ha bocciato l'etichetta di 'rischio per la sicurezza nazionale' affibbiata dal Pentagono all'azienda, mentre un ricercatore ha scoperto che proprio il suo sistema di difesa più avanzato, pensato per bloccare comandi malevoli nascosti nel codice, può essere aggirato con successo nell'80% dei tentativi. Nello stesso giorno Anthropic si unisce a oltre cento aziende per lanciare un allarme sui cyberattacchi basati su AI contro ospedali e reti idriche, pubblica un nuovo standard per rendere più trasparente l'hardware usato per addestrare i modelli e amplia l'accesso ai ricercatori scientifici. Il quadro che emerge è quello di un'azienda che vuole presentarsi come la più sicura e trasparente del settore, proprio mentre affronta le prove più concrete delle debolezze di questo approccio.
Lanci
Google ha rilasciato una nuova versione del suo modello per generare video, capace di allungare una scena esistente fino a 40 secondi ed è ora il 60% più veloce e costa un terzo in meno nella modalità di anteprima.the-decoder.com
La ricerca AI di Google diventa anche un assistente di viaggio: ora tiene traccia del prezzo dei voli, aiuta a prenotare hotel e mostra miglia e punti fedeltà accumulati.techcrunch.comblog.google
Ricerca
Uno studio della Wharton School dimostra che gli assistenti AI per lo shopping non sono ancora affidabili: basta una singola fonte esterna manipolata per cambiare la scelta finale del prodotto fino al 99% delle volte.the-decoder.com
Anthropic amplia l'accesso ai propri modelli di intelligenza artificiale per ricercatori e scienziati, per favorire progetti di ricerca basati sulla sua tecnologia.anthropic.com
I numeri
Regole e società
Un giudice federale americano ha dichiarato illegale la decisione del Pentagono di considerare Anthropic un rischio per la sicurezza nazionale, una vittoria importante per l'azienda.wired.comthe-decoder.comarstechnica.comtheverge.comtechcrunch.com
Un ricercatore ha scoperto un modo per ingannare la modalità automatica di Claude Code, il principale sistema di difesa di Anthropic contro i comandi malevoli nascosti nel codice, riuscendoci nell'80% dei tentativi.simonwillison.net
OpenAI, insieme a oltre 100 aziende tra cui Microsoft, Google e Anthropic, ha firmato una lettera aperta che avverte dell'aumento di cyberattacchi sofisticati basati su AI contro ospedali e reti idriche.the-decoder.com
Una causa legale accusa l'azienda di Elon Musk xAI di aver usato materiale pedopornografico, sia reale che generato dall'AI, per addestrare il chatbot Grok.arstechnica.com
Una ex dirigente di Meta ha lasciato il proprio ruolo per dedicarsi allo studio degli agenti AI, sostenendo che sostituiranno soprattutto i lavori di primo livello e renderanno più difficile l'ingresso nel mondo del lavoro.platformer.news
Anthropic ha introdotto un nuovo standard per descrivere in modo chiaro e uniforme quale hardware viene usato per addestrare i suoi modelli, per aumentare la trasparenza del settore.anthropic.com
Soldi
Durante la presentazione dei risultati trimestrali, il capo di Nvidia Jensen Huang ha detto che l'azienda ha 'raggiunto l'intelligenza artificiale generale', salvo poi definire l'affermazione stessa 'priva di senso' per mancanza di una definizione condivisa nel settore.theverge.com
Le azioni di Alphabet hanno perso 700 miliardi di dollari di valore in borsa a causa dei costi sempre più alti legati allo sviluppo dell'intelligenza artificiale.semafor.com