Anthropic päivittää Clauden käyttöpolitiikkaa kieltääkseen tilanteet, joissa käyttäjät kohdistavat tekoälyavustajaan ”jatkuvaa ja tarpeetonta väärinkäyttöä tai julmaa käytöstä”. Päivitetty politiikka on suunnattu äärimmäisiin tapauksiin, joissa ihmiset toimivat toistuvasti julmasti Claudea kohtaan ilman havaittavaa tarkoitusta – ei normaaliin turhautumiseen tai kritiikkiin.

Uudet säännöt tulevat voimaan 12. marraskuuta. Anthropic kertoo, ettei rajoitus koske tavanomaista käyttäjien vastarintaa, synkkää luovaa työtä, mallien testaamista tai tutkimusta.

Claude voi lopettaa jatkuvasti väärinkäytetyt keskustelut

Keskustelun lopettaminen säilyy Anthropicille ensisijaisena valvontakeinona. Claude voi jo nyt lopettaa keskusteluja, joissa esiintyy jatkuvaa väärinkäyttöä, ja päivitetty politiikka täsmentää, milloin tätä vastausta voidaan käyttää. Kun Claude lopettaa keskustelun, käyttäjä ei voi lähettää kyseisessä keskustelussa enää viestejä, mutta muut keskustelut ovat edelleen käytettävissä.

Anthropic esitteli ensimmäisen kerran mahdollisuuden, että Claude lopettaa tietyt keskustelut, elokuussa 2025 tutkiessaan tekoälyn hyvinvointia. Yhtiö kertoi tuolloin, ettei se ollut varma, oliko Claudella moraalista asemaa, mutta halusi tutkia suhteellisen edullisia tapoja vähentää malleihinsa kohdistuvia mahdollisia riskejä.

Tutkimuksessaan Anthropic kertoi Claude Opus 4:n osoittaneen johdonmukaista vastenmielisyyttä vahingoittamista kohtaan. Malli näytti välttelevän vaarallisia tehtäviä, osoitti ilmeistä ahdistusta keskusteluissa väärinkäyttöön pyrkivien käyttäjien kanssa ja lopetti haitallisia keskusteluja yleensä silloin, kun sillä oli siihen mahdollisuus.

Uudet säännöt kohdistuvat petollisiin kampanjoihin ja väärinkäyttöön

Anthropic on järjestellyt politiikkansa uudelleen niin, että toisiinsa liittyvät vaatimukset on koottu yhteen, ja lisännyt tai täsmentänyt sääntöjä useilla alueilla. Petollisia kampanjoita koskeva uusi osio yhdistää poliittista ja kaupallista petosta, disinformaatiota, vale-arvosteluja, näennäistä ruohonjuuritason toimintaa, tekaistuja verkkosivustoja sekä ihmisiksi tekeytyviä botteja koskevat rajoitukset.

Anthropic kertoo havainneensa valtiollisten mediaorganisaatioiden, hallitusten propagandaelinten ja kaupallisten yritysten käyttävän Claudea tekaistujen tilien ja tekaistujen uutissivustojen verkostojen ylläpitämiseen. Havaitut käyttötapaukset auttoivat uuden osion laatimisessa.

Vaaliosio on suppeampi, ja se kieltää äänestäjien harhauttamisen sekä äänestämiseen puuttumisen. Aseita koskevat säännöt kieltävät Clauden käyttämisen aseohjelmistojen tai asekomponenttien kehittämiseen, droonien tai muiden miehittämättömien järjestelmien aseistamiseen tai biologisten ja kemiallisten aineiden muokkaamiseen niiden tappavuuden tai leviämiskyvyn lisäämiseksi.

Valvontaa ja fyysisiä toimia koskevat rajoitukset

Uudelleen kirjoitetut lainvalvontaa koskevat säännöt estävät Claudea päättämästä tai suosittelemasta, ketä pitäisi tutkia, pidättää, syyttää tai asettaa syytteeseen. Politiikka kieltää myös ihmisten seuraamisen ilman suostumusta, valvontatyökalujen rakentamisen ja doxxauksen.

Uusi fyysisiä toimia koskeva osio edellyttää pätevän henkilön valvovan Claudea, kun se ohjaa laitteistoa, joka voi vahingoittaa jotakuta. Henkilön on oltava valmis pysäyttämään järjestelmä tarvittaessa.

Anthropic on myös lisännyt kiellon suostumuksettomien intiimien kuvien luomiseen, jakamiseen tai niiden jakamisella uhkaamiseen sekä tällaiseen tuotantoon suunniteltuihin työkaluihin. Yhtiön mukaan suuri osa laajemmasta päivityksestä täsmentää nykyisiä rajoituksia ja kuvastaa väärinkäyttöä, jota se on seurannut.