Chiudi menu
GomootGomoot
    domenica 22 Novembre 2026
    X (Twitter) Threads Mastodon Bluesky WhatsApp
    GomootGomoot
    • Home
    • Computer
      • Mini PC
      • Laptop
      • Monitor
      • Teoria
      • Mouse
      • GPU
      • Windows
      • Motherboard
      • Tastiere
    • Tech
      • Curiosità
      • Eventi
      • memory cards
      • Powerbank
      • Smartwatch
      • Gadgets
      • Speaker Bluetooth
      • Intelligenza artificiale
      • Offerte
      • Software
    • Mobile
      • Tablet
      • Smartphone
    • Musica
      • Cuffie
      • DAC
      • hi-fi
      • Teoria
    • Lifestyle
      • Criptovalute
      • EV
      • Gaming
      • Trekking
      • Scienze
    GomootGomoot
    Home»Tech»Intelligenza artificiale»Vulnerabilità nell’intelligenza artificiale: quando un chatbot IA “hackera” un altro chatbot IA
    Intelligenza artificiale

    Vulnerabilità nell’intelligenza artificiale: quando un chatbot IA “hackera” un altro chatbot IA

    Con una sequenza mirata di prompt creata da una IA, è possibile far evadere una chat conversazionale IA come GPT-4 dai propri limiti
    cristinacristina29/12/2023Aggiornato:30/12/2023
    Condividi Twitter WhatsApp Bluesky Threads
    NTU Singapore Chatbot IA

    Ricercatori dell’Università Tecnologica Nazionale di Singapore (NTU Singapore) hanno trovato un modo per compromettere i chatbot basati sull’intelligenza artificiale (AI). Addestrando e usando un chatbot IA, sono riusciti a produrre prompts che possono consentire ad altri chatbot di “evadere digitalmente” dai propri limiti. Tra le IA compromesse ChatGPT, Google Bard e Microsoft Bing Chat.

    Cos’è l'”evasione digitale”

    Con il termine “evasione digitale” si intendono atti di hacking informatico in cui i crackers individuano e sfruttano vulnerabilità nei sistemi per renderli in grado di fare qualcosa che i loro sviluppatori avevano intenzionalmente limitato. Così come in ambito carcerario un detenuto può evadere dal carcere sfruttando punti deboli della struttura. Con l'”evasione digitale” i ricercatori sono riusciti a far “evadere” i chatbot IA dai propri limiti approfittando delle loro vulnerabilità.

    Il metodo “Masterkey” per i chatbot IA

    chatbot IA
    credit NTU: ricercatori del Nanyang Technological University, Singapore

    I ricercatori hanno sfruttato un metodo a due fasi che hanno chiamato “Masterkey” per consentire l'”evasione digitale” degli LLMs. Come saprai, l’acronimo LLMs sta per Large Language Models ovvero modelli linguistici di grandi dimensioni alla base del funzionamento di diversi chatbot.

    In primo luogo hanno analizzato e compreso come gli LLMs rilevano e si difendono da richieste potenzialmente dannose. Quindi hanno addestrato un chatbot IA affinché producesse autonomamente dei prompt (richieste testuali) in grado di eludere le difese degli LLMs. Questo è stato denominato “chatbot maestro“.

    Il processo può essere automatizzato. I ricercatori hanno creato un chatbot maestro che si adatta e crea continuamente nuovi prompts di “evasione digitale“. Anche dopo che gli sviluppatori hanno applicato aggiornamenti di sicurezza ai loro LLMs.

    I test e la segnalazione delle vulnerabilità

    Quindi i ricercatori hanno quindi condotto una serie di proof-of-concept test su LLMs. Questi test sono stati svolti per dimostrare che la loro tecnica rappresenta davvero una minaccia concreta. Una volta ottenuta con successo l'”evasione digitale“, hanno segnalato le falle rilevate ai rispettivi provider di servizi IA appena le hanno sfruttate.

    Le implicazioni per la sicurezza dei chatbot IA

    I risultati ottenuti dai ricercatori di NTU Singapore potrebbero essere cruciali per aiutare le aziende e le imprese a prendere consapevolezza dei punti deboli e delle limitazioni dei propri chatbot basati su LLMs, in modo da poter rafforzare le loro difese contro potenziali attacchi informatici.

    Questo studio mostra come gli stessi chatbot AI potenzialmente possano essere usati contro se stessi. Inoltre, anche le loro vulnerabilità intrinseche possano essere sfruttate per permettere loro di oltrepassare i limiti imposti dagli sviluppatori. I dettagli tecnici del metodo “Masterkey” non sono stati resi pubblici dai ricercatori per evitare di fornire strumenti per condurre attacchi digitali. I risultati sono stati condivisi per aumentare la consapevolezza nel mondo della sicurezza informatica sugli eventuali rischi legati all’uso di complessi sistemi di intelligenza artificiale quali sono i chatbot basati su LLMs.

    Resta aggiornato

    Segui Gomoot

    Le nostre recensioni e notizie, dove le cerchi già.

    Aggiungi Gomoot alle tue fonti preferite su GoogleCi trovi più spesso tra le notizie in evidenzaSegui il canale WhatsAppLe novità di ogni giorno sul telefono
    bard bing chatbot ChatGPT digitale evasione featured ia intelligenzaartificiale jailbreaking LLM Masterkey Microsoft NTU OpenAI
    Articolo precedenteLG annuncia LG Gram Pro e LG Gram Pro 360
    Articolo successivo Snakebird Complete in regalo su Epic Games Store
    cristina
    • Sito web

    Su Gomoot racconto il punto in cui tecnologia e stile di vita si incontrano. Sono una lettrice accanita e una maratoneta dei weekend, a volte sullo schermo, con un buon film. La mia passione? Scoprire come la tech migliori, e non complichi, la nostra vita. Pronti ad esplorare insieme a me? ✨

    Articoli collegati

    Anello iridescente nei toni blu e viola, simbolo astratto di Gemini 4 Neon
    Intelligenza artificiale

    Gemini 4 Neon, come va il nuovo modello intermedio di Google

    21/11/2026
    Intelligenza artificiale

    Giochi creati dall’AI in pochi kilobyte: cosa insegnava già il Commodore 64

    18/11/202682 visite
    Laptop con terminale Qwen Code e scritta Qwen4-Max su sfondo scuro
    Intelligenza artificiale

    Qwen4-Max, il nuovo modello di punta di Alibaba, lavora di più spendendo meno

    17/11/202615 visite
    Aggiungi un commento
    Lascia un commento Annulla risposta

    Ultimi articoli
    Anello iridescente nei toni blu e viola, simbolo astratto di Gemini 4 Neon

    Gemini 4 Neon, come va il nuovo modello intermedio di Google

    21/11/2026

    Pixel 11 Pro, lo smartphone compatto di Google

    20/11/2026
    Garmin Instinct E nero con display digitale davanti a un paesaggio montano stilizzato

    Garmin Instinct E, l’orologio outdoor più leggero di Garmin

    19/11/202643 visite

    Impossible OS, l’alternativa a Windows che non usa Linux né emulatori

    19/11/202656 visite
    HP OmniBook X Flip 14 in modalità tenda con schermo Windows 11 e penna sul tavolo

    HP OmniBook X Flip 14 con Core Ultra 5 325: Panther Lake e OLED in un convertibile da mille euro

    19/11/2026

    realme 16 Pro+ 5G, il medio gamma sottile che fotografa bene le persone

    18/11/202616 visite
    Gomoot
    X (Twitter) Bluesky WhatsApp Threads Mastodon
    • Home
    • Tech
    • Mobile
    • Privacy
    • Contatti
    • Chi siamo
    Torna su© 2026 GOMOOT.COM

    Scrivi qui sopra e premi Invio per cercare. Premi Esc per annullare.