Aproape oricine a folosit internetul a experimentat probabil acel moment alarmant când o fereastră apare, susținând că dispozitivul tău are un virus, încurajându-te să dai clic pentru suport tehnic sau să descarci software de securitate. Este o înșelătorie comună online, iar Google își propune să lupte mai agresiv împotriva acesteia folosind inteligența artificială.

AI Gemini folosit pentru a detecta înșelătoriile

Google spune că acum folosește o versiune a modelului său AI Gemini care rulează pe dispozitivele utilizatorilor pentru a detecta și a avertiza utilizatorii cu privire la aceste așa-numite înșelătorii de „suport tehnic”.

Este doar una dintre numeroasele modalități prin care Google folosește progresele în AI pentru a proteja mai bine utilizatorii de înșelătorii în Chrome, Căutare și sistemul său de operare Android, a declarat compania într-o postare pe blog joi.

Anunțul vine în contextul în care AI a permis actorilor rău intenționați să creeze mai ușor cantități mari de conținut fals convingător — reducând efectiv bariera pentru desfășurarea înșelătoriilor care pot fi folosite pentru a fura banii sau informațiile personale ale victimelor.

Consumatorii din întreaga lume au pierdut mai mult de 1 trilion de dolari din cauza înșelătoriilor anul trecut, conform grupului de lobby Global Anti-Scam Alliance. Așadar, Google și alte organizații folosesc din ce în ce mai mult AI pentru a lupta împotriva escrocilor.

Phiroze Parakh, director senior de inginerie pentru Google Search, a spus că lupta împotriva escrocilor „a fost întotdeauna un joc de evoluție”, în care actorii rău intenționați învață și evoluează pe măsură ce companiile tehnologice implementează noi protecții.

„Acum, ambele părți au noi instrumente”, a spus Parakh într-un interviu pentru CNN. „Așadar, există această întrebare: cum poți folosi acest instrument mai eficient? Cine este mai proactiv în această privință?”

Învățarea automată, folosită de Google pentru a-și proteja serviciile

Deși Google a folosit de mult timp învățarea automată pentru a-și proteja serviciile, progresele mai recente în AI au dus la o înțelegere mai bună a limbajului și a recunoașterii modelului, permițând tehnologiei să identifice înșelătoriile mai repede și mai eficient.

Google a declarat că în modul de navigare sigur „protecție îmbunătățită” de pe Chrome pentru desktop, modelul său AI de pe dispozitiv poate acum să scaneze eficient o pagină web în timp real atunci când un utilizator dă clic pe ea pentru a căuta amenințări potențiale. Acest lucru este important deoarece, uneori, actorii rău intenționați își fac paginile să apară diferit pentru instrumentele de crawling existente ale Google pentru identificarea înșelătoriilor decât pentru utilizatori, o tactică numită „cloaking” pe care compania a avertizat anul trecut că este în creștere.

Și pentru că modelul, numit Gemini Nano, rulează pe dispozitivul tău, serviciul funcționează mai repede și protejează intimitatea utilizatorilor, a spus Jasika Bawa, manager de produs pentru Google Chrome.

La fel ca în modul de navigare sigur existent pe Chrome, dacă un utilizator încearcă să acceseze un site potențial nesigur, va vedea un avertisment înainte de a i se oferi opțiunea de a continua pe pagină.

Google își va avertiza utilizatorii dacă primesc alerte de la site-uri suspecte

Într-o altă actualizare, Google va avertiza utilizatorii Android dacă primesc alerte de la site-uri suspecte în Chrome și le va permite să se dezaboneze automat, atâta timp cât au activată notificarea site-urilor Chrome.

Google a folosit, de asemenea, AI pentru a detecta rezultate înșelătoare și a preveni apariția acestora în Căutare, indiferent de tipul de dispozitiv pe care se află utilizatorii. De când Google Search a lansat pentru prima dată versiuni alimentate de AI ale sistemelor sale anti-înșelătorie acum trei ani, acum blochează de 20 de ori mai multe pagini problematice.

„Am văzut acest avantaj incredibil cu abilitatea noastră de a înțelege limbajul și nuanțele și relațiile dintre entități, ceea ce a schimbat cu adevărat modul în care detectăm acești actori înșelători”, a spus el, adăugând că doar în 2024, compania a eliminat sute de milioane de rezultate de căutare înșelătoare zilnic din cauza avansurilor în AI.

Parakh a spus, de exemplu, că AI a făcut-o mai capabilă să identifice și să elimine o înșelătorie în care actorii rău intenționați creează pagini sau numere de telefon false de „serviciu pentru clienți” pentru companiile aeriene. Google spune că a redus acum atacurile de înșelătorie în căutările legate de companiile aeriene cu 80%.

Google, alături de Microsoft și O2 în lupta cu înșelătoriile

Google nu este singura companie care folosește AI pentru a lupta împotriva actorilor rău intenționați. Compania britanică de telefonie mobilă O2 a declarat anul trecut că luptă împotriva escrocilor telefonici cu „Daisy”, un chatbot AI conversațional menit să îi țină pe escroci la telefon, oferindu-le mai puțin timp pentru a vorbi cu potențialele victime umane.

Microsoft a testat, de asemenea, un instrument care folosește AI pentru a analiza conversațiile telefonice pentru a determina dacă un apel ar putea fi fraudulos și a alerta utilizatorul în consecință.

Iar Departamentul Trezoreriei din SUA a declarat anul trecut că AI l-a ajutat să identifice și să recupereze 1 miliard de dolari în fraudă cu cecuri doar în anul fiscal 2024.