Google anunță că atacatorii au folosit peste 100.000 de mesaje pentru a încerca să cloneze chatbotul AI Gemini
Potrivit nbcnews.com, Google a declarat că chatbotul său de inteligență artificială, Gemini, a fost inundat de actori "motivați comercial" care încearcă să-l cloneze prin solicitări repetate, uneori cu mii de întrebări diferite. O campanie a provocat Gemini de peste 100.000 de ori.
👉 Atacurile de distilare și metoda "extracției modelului"
Într-un raport publicat joi, Google a afirmat că s-a confruntat cu un număr tot mai mare de "atacuri de distilare", sau întrebări repetate menite să determine un chatbot să dezvăluie modul său de funcționare. Google a descris această activitate ca "extracția modelului", în care pretendenții la clonare analizează sistemul pentru a descoperi tiparele și logica care îl fac să funcționeze. Atacatorii par să vrea să folosească informațiile pentru a-și construi sau a-și consolida propriul AI.
Compania consideră că cei responsabili sunt în principal companii private sau cercetători care caută să obțină un avantaj competitiv. Un purtător de cuvânt a declarat pentru NBC News că Google crede că atacurile au venit din întreaga lume, dar a refuzat să ofere detalii suplimentare despre suspecți.
👉 Vulnerabilitatea modelelor lingvistice mari și impactul asupra industriei AI
Scopul atacurilor asupra Gemini sugerează că acestea vor deveni, cel mai probabil, comune și împotriva instrumentelor AI personalizate ale companiilor mai mici, a declarat John Hultquist, analistul șef al grupului de inteligență în domeniul amenințărilor de la Google. "Vom fi canar în mina de cărbune pentru mult mai multe incidente", a spus Hultquist, care a refuzat să numească suspecți.
Compania consideră distilarea a fi un furt de proprietate intelectuală. Companiile de tehnologie au investit miliarde de dolari în dezvoltarea chatboților lor AI sau a modelelor lingvistice mari (LLM – Large Language Models) și consideră că modul său de funcționare pentru modelele de top este informație proprietară extrem de valoroasă. Deși au mecanisme pentru a identifica atacurile de distilare și a bloca persoanele care le desfășoară, modelele LLM majore sunt în mod inerent vulnerabile la distilare, deoarece sunt accesibile oricui pe internet.
OpenAI, compania din spatele ChatGPT, a acuzat anul trecut rivalul său chinez DeepSeek de desfășurarea atacurilor de distilare pentru a-și îmbunătăți modelele. Multe dintre atacuri erau concepute pentru a extrage algoritmii care ajută Gemini să "raționeze" sau să decidă cum să proceseze informația, a precizat Google. Hultquist a adăugat că, pe măsură ce mai multe companii proiectează propriile LLM-uri personalizate antrenate pe date potențial sensibile, devin vulnerabile la atacuri similare. "Să presupunem că LLM-ul tău a fost antrenat pe 100 de ani de gândire secretă în ceea ce privește modul în care tranzacționezi. Teoretic, ai putea distila unele dintre acestea", a spus el.
