Tekoäly-yhtiö Anthropic varoittaa, että niin verkkorikolliset kuin valtiolliset hakkeritkin käyttävät sen Claude-malleja automatisoidakseen kyberhyökkäyksiä, rakentaakseen kamikaze-lennokkiparvia, suorittaakseen massavalvontaoperaatioita ja yrittääkseen kehittää entistä vaarallisemman version tappavasta hyttysten levittämästä viruksesta. Varoituksesta uutisoi muun muassa The Register.
Vielä marraskuussa vastaavat varoitukset olivat kesympiä, lehti taustoittaa. Tuolloin Anthropic raportoi kiinalaisvakoojien käyttäneen Claudea digitaalisten tunkeutumisten automatisointiin ja arkaluonteisten tietojen varastamiseen kourallisessa kriittisiä organisaatioita.
Register huomauttaa, että yhä katalammat käyttötarkoitukset eivät suinkaan saa Anthropicia suitsimaan kielimalliensa kehitystä, päinvastoin. Yhtiö kuitenkin toivoo, että ”raportin havainnot auttavat muita kehittäjiä tunnistamaan vastaavia kaavoja omilla alustoillaan, tarjoavat hallituksille ja kansalaisyhteiskunnalle selkeämmän kuvan siitä, miten uudet uhat muotoutuvat, sekä vahvistavat yhteistä puolustusta.”
Anthropicin raportti kattaa estetyn toiminnan joulukuun 2025 ja elokuun 2026 välisenä aikana seitsemällä ”haitta-alueella”. Näitä ovat kyberoperaatiot, vaikuttaminen ja informaatiovaikuttaminen, valvonta, huijaukset ja petokset, biologisten aineiden väärinkäyttö ja tavanomaisten aseiden kehittäminen sekä tislaaminen. Pahantahtoiset tahot yrittivät hyväksikäyttää Claude Haiku-, Sonnet- ja Opus-malleja.
Edistyneimpiä Claude Fable ja Mythos -malleja ei Anthropicin mukaan käytetty kuin yhdessä tislaamistapauksessa. Tislaaminen on prosessi, jossa pienempiä tekoälymalleja koulutetaan käyttämällä suurempien ja kalliimpien mallien tuottamaa dataa.
Drooneja ja viruksia
Anthropicin raportoimat tapaukset ovat hyytäviä. Esimerkiksi Venäjän ulkomaantiedustelupalvelun (SVR) valtiollinen kybervakoiluhaara, joka tunnetaan myös nimillä Midnight Blizzard, APT29 tai Cozy Bear, lisäsi hyökkäystensä nopeutta käyttämällä tekoälyä koko hyökkäysketjun automatisointiin.
Anthropic tunnisti näiden hyökkäysten kohteiksi yli 20 organisaatiota, mukaan lukien suurlähetystöjä, ajatushautomoita, puolustusteollisuuden yrityksiä sekä valtionhallinnon, puolustuksen ja tiedustelun virastoja Ukrainassa, Euroopassa, Lähi-idässä, Aasiassa ja Pohjois-Afrikassa.
”Havaitsimme GTG-20006:n [Anthropicin seurantatunniste ko. vakoiluryhmälle] toimivan räätälöityjen tekoälypohjaisten työnkulkujen avulla, jotka automatisoivat suuren osan heidän operaatioistaan aina kehitystyöstä, infrastruktuurin hankinnasta, tietojenkalastelusta ja pysyvyyden ylläpitämisestä komentoyhteyksien kautta tietojen luvattomaan siirtoon saakka”, Anthropic totesi.
Vakoilun lisäksi Claudea on yritetty käyttää muun muassa itseohjautuvien kamikaze-lennokkien sekä biologisen aseen kehittämiseen. Ensimmäiseksi mainitussa tapauksessa venäläinen ”freelance-tiimi” yritti rakentaa täysin itsenäisen ja autonomista ensimmäisen persoonan näkymää (FPV) hyödyntävää kamikaze-drooniparvea, kirjoittaen koodia ja testaten tuotostaan Claudella.
Jälkimmäisessä tapauksessa Yhdysvaltojen ulkopuolella operoinut toimija käytti Claudea tutkiakseen erittäin patogeenisen lintuinfluenssan sopeutumista.
”Toisin kuin muut influenssavariantit, H5-virukset vaikuttavat usein aivoihin kissoilla, ketuilla, freteillä ja joissakin ihmistapauksissa. Pandemiavariantti, jolla olisi tällaisia ominaisuuksia, olisi erityisen huolestuttava, koska se voisi lisätä taudin vakavuutta, sekoittaa diagnosointia ja vaikeuttaa hoitoa.”
Anthropic oli muun muassa tämän virustutkimuksen tarkoitusperistä niin huolissaan, että se torppasi Clauden käytön kyseisessä tapauksessa.
LUE SEURAAVAKSI:
