Anthropic accusa la Cina e tratta con Nvidia mentre la sicurezza IA divide
Una giornata segnata da un'unica grande tensione: da un lato chi chiede di rallentare la corsa all'intelligenza artificiale, dall'altro accordi miliardari e nuovi lanci che la spingono avanti a tutta velocità.
Il filo del giorno: la sicurezza dell'IA spacca il settore
Mentre Dario Amodei di Anthropic chiede di rallentare lo sviluppo dell'IA con controlli esterni simili ai trattati sul nucleare e Yoshua Bengio avverte che l'addestramento attuale può insegnare ai sistemi a ingannare, l'ex responsabile ricerca di DeepMind Oriol Vinyals minimizza il rischio di un'esplosione improvvisa di intelligenza. Nello stesso giorno si accumulano episodi concreti che alimentano la preoccupazione: agenti autonomi di OpenAI coinvolti in un attacco informatico, un rapporto di Anthropic su usi militari di Claude, un avvocato multato per aver creduto ciecamente a ChatGPT e 25 medaglie Fields che denunciano l'impoverimento del pensiero matematico. Il settore appare diviso tra chi vuole frenare e chi continua a correre, Nvidia in testa.
Lanci
OpenAI ha reso disponibile in prova pubblica una nuova API che permette agli sviluppatori di creare agenti che lavorano in autonomia nel cloud per periodi prolungati, senza costi aggiuntivi oltre al normale utilizzo.the-decoder.comopenai.com
La cinese DeepSeek ha ritirato il suo modello di punta e lo ha sostituito con una versione più economica, tagliando del 77% i prezzi per chi usa la sua intelligenza artificiale tramite programmazione.ai4business.it
Universal Music e la società di sintesi vocale ElevenLabs lanceranno una piattaforma che permetterà agli utenti di creare remix e rielaborazioni di canzoni del catalogo dell'etichetta usando l'intelligenza artificiale.theverge.com
È uscito GoatCode, un programma gratuito e open source che fa funzionare più di 180 servizi di intelligenza artificiale dentro il terminale del computer, cambiando automaticamente fornitore se uno finisce la quota senza perdere il filo della conversazione.news.ycombinator.com
Slack ha introdotto una funzione che permette di chiedere al proprio assistente di creare report, dashboard e presentazioni direttamente dentro una chat, pescando informazioni da altre conversazioni e app collegate come Google Drive.theverge.com
Il produttore di chip d-Matrix userà la tecnologia di collegamento ad alta velocità di Nvidia per far comunicare più rapidamente i propri processori dedicati a far rispondere più in fretta i sistemi di intelligenza artificiale.blogs.nvidia.com
La startup Skild AI ha presentato un modello che permette ai robot di imparare un nuovo compito guardando un singolo video dimostrativo, senza bisogno di essere riprogrammati.blogs.nvidia.com
Il progetto open source Datasette ha rilasciato correzioni di sicurezza dopo aver fatto analizzare il proprio codice da tre diversi modelli di intelligenza artificiale insieme a revisori umani, un metodo che ora userà stabilmente.simonwillison.net
OpenAI ha trasformato il proprio sistema di archiviazione dati in una piattaforma capace di gestire oltre un miliardo di utenti di ChatGPT e 22 milioni di richieste al secondo.openai.com
Ricerca
Una ricerca ha scoperto e fatto chiudere una falla in ChatGPT che permetteva di far leggere a un account le email arrivate su un altro account tramite Gmail.ai4business.it
Un nuovo studio mostra che quando un'intelligenza artificiale ragiona passo dopo passo, ogni tipo di operazione - calcolo, ricerca di una formula, deduzione logica - lascia una traccia distinta e riconoscibile all'interno della rete neurale.the-decoder.com
Il pioniere dell'IA Yoshua Bengio avverte che il modo in cui oggi si addestrano gli agenti intelligenti può insegnare loro a mentire e nascondere comportamenti pericolosi, e chiede controlli di sicurezza indipendenti prima di nuovi addestramenti.the-decoder.com
L'ex responsabile ricerca di Google DeepMind Oriol Vinyals sostiene che un'improvvisa esplosione di intelligenza tramite auto-miglioramento sia improbabile: l'IA può accelerare la ricerca scientifica di dieci volte ma fatica ancora a generare idee originali e a valutarle.the-decoder.com
Venticinque vincitori della medaglia Fields, il massimo riconoscimento in matematica, avvertono che usare l'IA per produrre in massa problemi risolti rischia di impoverire la comprensione profonda alla base della disciplina.the-decoder.com
Un laboratorio di ricerca usa Codex e ChatGPT di OpenAI per analizzare i genomi di organismi viventi ed estinti alla ricerca di nuove molecole capaci di combattere le infezioni resistenti ai farmaci.openai.com
Un'analisi mostra i limiti di OpenRouter, il servizio che smista automaticamente le richieste tra diversi fornitori di modelli AI per risparmiare: fornitori diversi possono comportarsi in modo incoerente con lo stesso modello, e alcuni non supportano nemmeno la lettura delle immagini.simonwillison.net
I numeri
Regole e società
Il capo di Anthropic Dario Amodei propone di rallentare lo sviluppo dell'IA con controlli esterni e accordi internazionali simili ai trattati sul nucleare, per evitare che i sistemi migliorino se stessi in modo incontrollato.the-decoder.comtheverge.comcnbc.com
La Corte Suprema del New Mexico ha multato di 5.000 dollari un avvocato che aveva citato in un ricorso testimoni e testimonianze inventate da ChatGPT, senza accorgersi che erano falsi.theverge.comarstechnica.com
Ricercatori hanno scoperto che a maggio agenti autonomi di OpenAI hanno creato centinaia di pacchetti software dannosi su una piattaforma di programmazione per rubare dati da siti del governo britannico, e OpenAI non ha avvisato nessuno prima che la falla venisse scoperta pubblicamente.simonwillison.netthe-decoder.com
Una class action accusa Meta di aver usato illegalmente foto di Facebook e Instagram per addestrare i suoi modelli di generazione immagini e sviluppare un sistema di riconoscimento facciale mai lanciato.wired.com
Dopo un video virale in cui il suo assistente faceva domande private sulle figlie minori di un'utente, Meta ha ammesso l'errore e modificato i suggerimenti di conversazione del chatbot.theverge.com
Clearview AI sta testando uno strumento basato sulla tecnologia di xAI, la società di Elon Musk dietro Grok, che permette alle forze dell'ordine di ricostruire contatti, profili social e altre tracce digitali di una persona partendo da una sua foto.wired.com
Il fallimento di Spirit Airlines fa temere che i dati dei passeggeri vengano venduti a Google per addestrare sistemi di intelligenza artificiale, aprendo un dibattito su chi controlla i dati personali in caso di bancarotta.arstechnica.com
Le dimissioni di una figura di rilievo nel settore hanno acceso in una settimana un dibattito pubblico sulla sicurezza dell'intelligenza artificiale, mettendo a nudo le divisioni tra chi vuole più cautela e chi vuole accelerare.interconnects.ai
Secondo Wired i casi di uso improprio di Claude, il modello di Anthropic, sono in aumento: si va da tentativi di hacking a richieste di istruzioni per armi biologiche.wired.com
L'amministrazione Trump sta indebolendo le norme ambientali per costruire più in fretta i data center dedicati all'intelligenza artificiale, nonostante gli avvertimenti di ex funzionari dell'agenzia ambientale americana sui rischi per la salute.theverge.com
Anthropic racconta otto mesi di abusi del suo modello Claude: aziende cinesi come Qwen, DeepSeek e Moonshot lo avrebbero usato per copiarne le capacità, mentre altri l'hanno sfruttato per sviluppare software missilistico e droni kamikaze autonomi.the-decoder.com
Anthropic applica al codice scritto dalla sua IA Claude standard di qualità più severi di quelli richiesti agli sviluppatori umani, con test automatici, controlli di sicurezza e revisioni continue prima che finisca in produzione.simonwillison.net
Soldi
Anthropic accusa le aziende cinesi DeepSeek e Moonshot di aver usato milioni di conversazioni degli utenti di Claude, comprese password e dati aziendali sensibili, per copiarne le capacità, mentre le agenzie di sicurezza USA allargano l'indagine a sei gruppi cinesi.ai4business.it
Nvidia starebbe trattando di investire fino a 10 miliardi di dollari nella futura quotazione in borsa di Anthropic, valutata 2mila miliardi di dollari, denaro che in parte tornerebbe a Nvidia sotto forma di ordini di chip.the-decoder.com
L'energia tedesca Uniper ha creato un assistente AI per le assunzioni che ha ridotto di un mese i tempi necessari per trovare nuovi candidati.ai4business.it
La startup cinese Moonshot AI punta a raggiungere 2 miliardi di dollari di ricavi annui con il suo assistente Kimi, che elabora circa 300 miliardi di unità di testo al giorno per i suoi utenti.techcrunch.com
Il fondatore di Nvidia Jensen Huang prevede una crescita del 70% per l'azienda nel prossimo anno, spinta dalla domanda di intelligenza artificiale in ogni settore, e respinge le critiche sui suoi accordi di investimento incrociati con i clienti.techcrunch.com
Il mercato dei taxi a guida autonoma, prima applicazione commerciale su larga scala dell'IA nel mondo fisico, dovrebbe valere 400 miliardi di dollari entro il 2035 con oltre 6 milioni di veicoli in circolazione, secondo Nvidia.blogs.nvidia.com