I criminali online si stanno specializzando man mano che si evolve la tecnologia. Il “jailbreak-as-a-service” è emerso tra le nuove tendenze tra i cybercriminali per aggirare le misure di sicurezza delle aziende di intelligenza artificiale e utilizzare i modelli linguistici per scopi dannosi, come la scrittura di codice per ransomware o la generazione di testi per email di truffa.
I cybercriminali ricorrono all’uso di modelli linguistici anche per il “doxxing”, ovvero la divulgazione di informazioni personali su internet, sfruttando dati personali per dedurre la posizione e l’identità delle persone. I rischi legati a un utilizzo improprio dell’IA riguarda anche truffe audio deepfake, furto d’identità e aggiramento di sistemi di sicurezza come il bypassare i controlli di identità.
Questi servizi offrono accesso anonimo alle API dei modelli e prompt di jailbreaking che si aggiornano frequentemente, rappresentando una sfida per le aziende di IA come OpenAI e Google, che devono costantemente chiudere falle di sicurezza.
Leggi l’articolo completo: Five ways criminals are using AI su technologyreview.com.
Foto di Sora Shimazaki su Pexels
