Cercetătorii în domeniul securității cibernetice construiesc o „capcană canară” mai bună – Utilizarea AI pentru a genera documente false

Un nou sistem de inteligență artificială generează documente false pentru a înșela adversarii.

În timpul celui de-al doilea război mondial, agenții de informații britanici au plantat documente false pe un cadavru pentru a înșela Germania nazistă în pregătirea unui atac asupra Greciei. „Operațiunea Mincemeat” a fost un succes și a acoperit adevărata ocupație aliată a Siciliei.

Tehnica „capcana canarilor” în spionaj răspândește multe versiuni ale documentelor false pentru a ascunde un secret. Capcanele canare pot fi folosite pentru adulmecarea scurgerilor de informații sau, ca în al doilea război mondial, pentru a crea distrageri care ascund informații valoroase.

WE-FORGE, un nou sistem de protecție a datelor creat în Departamentul de Informatică, folosește inteligența artificială pentru a construi conceptul de capcană pentru canari. Sistemul creează automat documente false pentru a proteja proprietatea intelectuală, cum ar fi modelele de droguri și tehnologia militară.

„Sistemul produce documente care sunt destul de similare cu originalul pentru a fi fiabile, dar suficient de diferite pentru a fi inexacte”, spune VS Subrahmanian, distins profesor de securitate cibernetică, tehnologie și societate și director al Institutului pentru securitate, tehnologie și societate .

Experții în securitate cibernetică folosesc deja capcane pentru canari sau „fișiere de miere” și traducători în limbi străine pentru a crea escrocherii care păcălesc potențialii atacatori. WE-FORGE îmbunătățește aceste tehnici prin utilizarea procesării limbajului natural pentru a genera automat mai multe fișiere false care sunt fiabile și inexacte. De asemenea, sistemul introduce un element aleatoriu pentru a împiedica adversarii să identifice cu ușurință documentul real.

WE-FORGE poate fi utilizat pentru a crea mai multe versiuni false ale oricărui document tehnic de proiectare. Când adversarii atacă un sistem, aceștia se confruntă cu sarcina descurajantă de a afla care dintre numeroasele documente similare este adevărat.

„Folosind această tehnică, forțăm un adversar să piardă timp și efort în identificarea documentului corect. „Chiar dacă o fac, este posibil să nu aibă credință că au înțeles-o bine”, spune Subrahmanian.

VS Subrahmanian

VS Subrahmanian, distins profesor în securitate cibernetică, tehnologie și societate și director al Institutului pentru securitate, tehnologie și societate, a condus o echipă de cercetare care generează automat documente false pentru protejarea proprietății intelectuale. Credit: Fotografie de Robert Gill

Crearea unor documente tehnice false nu este mai puțin îngrijorătoare. Potrivit echipei de cercetare, un singur brevet poate include peste 1.000 de concepte cu până la 20 de înlocuiri posibile. WE-FORGE se poate încheia examinând milioane de posibilități pentru toate conceptele care pot fi înlocuite într-un singur document tehnic.

„Actorii malițioși fură proprietatea intelectuală acum și o salvează gratuit”, spune Subrahmanian. „Acest sistem crește costul pe care îl suportă hoții atunci când fură secretele guvernului sau ale industriei”.

Algoritmul WE-FORGE funcționează calculând asemănările dintre conceptele dintr-un document și apoi analizând cât de important este fiecare cuvânt pentru document. Sistemul listează apoi conceptele în „coșuri” și calculează potențialul candidat pentru fiecare grup.

„WE-FORGE poate obține, de asemenea, informații de la autorul documentului original”, spune Dongkai Chen, Guarini ’21. “Combinația dintre ingeniozitatea umană și mașini poate crește și mai mult costurile pentru hoții de proprietate intelectuală”.

Ca parte a cercetării, echipa a falsificat o serie de brevete de informatică și chimie și a cerut unui grup de subiecți cunoscuți să decidă care dintre documente este autentic.

Conform cercetărilor, publicate în ACM Transactions on Management Information Systems, sistemul WE-FORGE a fost capabil să „genereze în permanență documente false foarte fiabile pentru fiecare sarcină”.

Spre deosebire de alte instrumente, WE-FORGE este specializat în falsificarea informațiilor tehnice, mai degrabă decât în ​​ascunderea informațiilor simple, cum ar fi parolele.

WE-FORGE modernizează o versiune anterioară a sistemului – cunoscută sub numele de FORGE – eliminând necesitatea consumatoare de timp de a crea ghiduri conceptuale legate de tehnologie. WE-FORGE asigură, de asemenea, că există o varietate mai mare între falsuri și urmează o tehnică îmbunătățită pentru selectarea și înlocuirea conceptelor de înlocuire.

Referință: „Utilizarea ansamblurilor de cuvinte pentru a preveni furtul proprietății intelectuale prin generarea automată de documente false” de către Almas Abdibayev, Dongkai Chen, Haipeng Chen,
Deepti Poluru și VS Subrahmanian, februarie 2021, Tranzacții ACM în sisteme informatice de management.
DOI: 10.1145 / 3418289

Almas Abdibayev Guarini ’21, Deepti Poluru Guarini ’19 și fostul cercetător postdoctoral Haipeng Chen au contribuit la această cercetare în timpul Departamentului de Informatică.

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

Inginerii dezvoltă o nouă tehnologie de tratare a apei care ar putea ajuta și exploratorii Marte

Un catalizator care distruge percloratul din apă poate curăța solul marțian. O echipă condusă de ingineri de la Universitatea din California Riverside a dezvoltat un...

Dezechilibrul energetic al Pământului s-a dublat

Faceți clic pe imaginea pentru a anima: Comparația estimărilor anuale suprapuse la intervale de 6 luni ale fluxului anual net de energie în atmosfera...

Modul în care celulele folosesc „pungile pentru gunoi” pentru a-și transporta deșeurile de reciclare

Descoperirile pot avea implicații importante pentru înțelegerea bolilor legate de vârstă. Oamenii de știință de la Sanford Burnham Prebys au obținut o perspectivă mai profundă...

Cercetătorii iau distribuția cheii cuantice din laborator

Dovezile pe teren arată că simpla funcționare a sistemului DCC cu rețeaua de telecomunicații existentă în Italia. Într-un nou studiu, cercetătorii au demonstrat un sistem...

Știința simplificată: ce sunt rețelele cuantice?

din Departamentul Energiei din SUA 17 iunie 2021 Părțile interesate din guvern, laboratoare naționale, universități și industrie s-au alăturat DOE Internet Quantum Project Workshop pentru a...

Newsletter

Subscribe to stay updated.