Una nuova frontiera per la sicurezza dell’AI: test incrociati tra laboratori per unire l’industria
- Ilya Sutskever di OpenAI sostiene i test incrociati tra laboratori per rafforzare la sicurezza dell'IA in un contesto di rapidi progressi tecnologici e rischi diffusi nel settore. - Il progetto pilota di Claude di Anthropic, basato su browser, mette in evidenza sfide di sicurezza come gli attacchi di prompt injection, spingendo verso strategie di mitigazione rafforzate. - Uno studio rivela una scarsa conformità agli impegni volontari di sicurezza da parte delle principali aziende di IA, tra cui Apple, mettendo in discussione l’efficacia dell’autoregolamentazione. - L’AI Safety Initiative della Cloud Security Alliance offre framework e RiskRub.
Ilya Sutskever, co-fondatore e membro del consiglio di OpenAI, ha richiesto l'implementazione di test incrociati tra laboratori come misura fondamentale per garantire la sicurezza dei sistemi di intelligenza artificiale (AI). La sua dichiarazione arriva in un momento di crescenti preoccupazioni riguardo ai rischi associati ai progressi dell'AI, con i leader del settore che sottolineano la necessità di protocolli di sicurezza collaborativi e standardizzati. L'appello di Sutskever ai test incrociati tra laboratori si allinea con gli sforzi più ampi per rafforzare la sicurezza dell'AI e mitigare i potenziali danni mentre la tecnologia continua a evolversi rapidamente [1].
La necessità di approcci collaborativi di questo tipo è sottolineata dagli sviluppi recenti nel dispiegamento e nella regolamentazione dell'AI. Ad esempio, Anthropic, un attore importante nel settore dell'AI, ha introdotto un programma pilota per il suo assistente AI, Claude, progettato per operare direttamente nei browser degli utenti. Questa iniziativa, che mira a migliorare l'utilità dell'AI integrandola nei flussi di lavoro digitali principali, ha anche evidenziato le significative sfide di sicurezza associate agli agenti AI basati su browser. Gli attacchi di prompt injection—dove attori malintenzionati manipolano il comportamento dell'AI incorporando istruzioni nascoste—sono emersi come un rischio chiave, spingendo Anthropic a implementare robuste strategie di mitigazione come permessi a livello di sito, conferme delle azioni e classificatori avanzati per rilevare schemi sospetti [2].
Tali rischi non sono limitati alle singole aziende. Un recente studio di ricercatori di Brown, Harvard e Stanford ha rilevato che molte aziende di AI non hanno rispettato pienamente i loro impegni volontari sulla sicurezza, in particolare dopo le promesse sulla sicurezza dell'AI dell'amministrazione Biden nel 2023. Apple, ad esempio, ha ottenuto risultati scarsi nella valutazione, con prove di conformità per solo uno su otto impegni. Lo studio evidenzia i limiti dell'autoregolamentazione in un settore in rapida evoluzione e solleva interrogativi sull'efficacia delle misure volontarie nel garantire responsabilità e sicurezza [5].
In risposta a queste sfide, la Cloud Security Alliance (CSA) ha lanciato la sua AI Safety Initiative alla fine del 2023, riunendo leader del settore, agenzie governative e istituzioni accademiche per sviluppare strumenti pratici e framework per la gestione dei rischi dell'AI. L'iniziativa fornisce alle organizzazioni checklist di preparazione all'AI, framework di governance e linee guida di sicurezza, con l'obiettivo di allineare il progresso tecnologico alle aspettative normative. In particolare, la CSA ha anche introdotto RiskRubric.ai, un sistema di punteggio che valuta la sicurezza, la trasparenza e l'affidabilità dei large language model (LLM), offrendo alle imprese un approccio basato sui dati per l'adozione dell'AI [4].
Gli sforzi collaborativi per migliorare la sicurezza dell'AI sono inoltre supportati da un ecosistema in crescita di finanziatori e programmi di sovvenzione. Organizzazioni come il Long-Term Future Fund, il Survival and Flourishing Fund e l'AI Safety Fund stanno fornendo supporto finanziario a ricercatori, imprenditori e istituzioni che lavorano sulla mitigazione dei rischi dell'AI. Queste iniziative mirano ad affrontare i rischi esistenziali a lungo termine promuovendo al contempo l'innovazione responsabile. Inoltre, società di venture capital come Juniper Ventures e Mythos Ventures stanno investendo in startup che sviluppano strumenti per migliorare la sicurezza, la conformità e la governance dell'AI [6].
L'appello ai test incrociati tra laboratori, come sostenuto da Sutskever, rappresenta un passo fondamentale per affrontare queste sfide sistemiche. Consentendo standard condivisi e valutazioni trasparenti tra i laboratori di sviluppo AI, il settore può favorire una maggiore fiducia e responsabilità. Questo approccio è particolarmente importante man mano che i sistemi AI diventano più complessi e capaci, rendendo necessaria una posizione unificata per valutare i potenziali rischi prima della distribuzione. OpenAI, Anthropic e altri attori chiave hanno l'opportunità—e la responsabilità—di guidare questa transizione adottando protocolli di sicurezza collaborativi e stabilendo un precedente per l'innovazione responsabile dell'AI [1].
Esclusione di responsabilità: il contenuto di questo articolo riflette esclusivamente l’opinione dell’autore e non rappresenta in alcun modo la piattaforma. Questo articolo non deve essere utilizzato come riferimento per prendere decisioni di investimento.
Ti potrebbe interessare anche
Goldman Sachs: Non aspettate le elezioni di metà mandato, il mercato “Goldilocks” potrebbe accendere prima del previsto il rally di fine anno delle azioni USA
Goldman Sachs ritiene che il mercato abbia sovrastimato i rischi di stagflazione e di elevati rendimenti; l'effetto dei dazi si sta attenuando, l'energia potrebbe favorire la deflazione e la consumerizzazione dell'AI porterà a una riduzione dei costi, spingendo l'inflazione verso il basso. Sebbene la crescita rallenti, la redditività core rimane forte, mentre lo spazio di manovra delle banche centrali è limitato. In uno scenario "Goldilocks", il FOMO sull'AI si riaccende e non è necessario attendere le elezioni di medio termine: il rally "Goldilocks" potrebbe anticipare il trend di fine anno delle azioni USA.
Il rapporto del terzo trimestre è imminente, Samsung Electronics e SK Hynix affrontano aspettative "estremamente elevate", mettendo alla prova il "mercato globale dell'AI".
L'ondata dell'AI sta guidando un "super ciclo" globale dei semiconduttori; Samsung e SK Hynix potrebbero vedere il loro utile operativo combinato per il terzo trimestre avvicinarsi al record storico di 190 mila miliardi di won sudcoreani. La competizione per la HBM4 si sta intensificando, mentre l'aumento di dieci volte della domanda di larghezza di banda di memoria da parte dell'AI generativa trasforma la memoria stessa nel vero "sangue" dei data center AI. Due imminenti rapporti finanziari determineranno se questa prosperità sia solo un fenomeno temporaneo o il segnale di una rivoluzione strutturale che rimodellerà le infrastrutture tecnologiche.
Direttore di Meta AI Alexandr Wang: Perché voglio creare Muse
Muse ha raggiunto 2,8 milioni di download in soli 12 giorni, superando le performance di ChatGPT nello stesso periodo e stabilendo un record di 264.000 download giornalieri negli Stati Uniti — il valore di mercato di Meta è così aumentato di 234 miliardi di dollari. Dietro a tutto ciò, vi è la lettera aperta del Chief AI Officer Alexandr Wang, che parla del "desiderio umano", e l'acquisizione da 14,3 miliardi di dollari di Zuckerberg, considerata allora "folle": oggi, risulta forse la mossa più vantaggiosa della storia della Silicon Valley, almeno sul piano del talento.
UBS: mantiene il rating "Neutrale" su Tesla (TSLA.US), prezzo obiettivo 385 dollari. La narrazione sull'AI guida la logica di valutazione del prezzo delle azioni.
UBS prevede che la consegna globale di Tesla nel terzo trimestre del 2026 (3Q26) sarà di circa 470.000 unità, con un calo del 5% su base annua e dell'1% su base trimestrale.
Prezzi delle criptovalute
Altro
