Piilotetut käskyt

Miksi sillä on väliä

Kun tekoäly lukee verkkosivuja käyttäjän puolesta, sivun teksti muuttuu sen syötteeksi. Jos sivulla on käsky, malli voi totella sitä. The Guardian osoitti joulukuussa 2024, että ChatGPT:n haun tuotetiivistelmiä pystyi kääntämään myönteisiksi piilotekstillä, vaikka sivulla oli kielteisiä arvosteluja. OWASP käsittelee prompt injectionia kielimallisovellusten Top 10 -riskilistansa ensimmäisenä kohtana.

Pk-yrityksen kannalta asialla on kaksi puolta. Sitä ei kannata tehdä itse, ja kannattaa varmistaa, ettei kukaan muu ole tehnyt sitä sinun sivustollesi.

Miten käskyt piilotetaan

• Valkoinen teksti valkoisella pohjalla tai fonttikoko nolla
• CSS:llä piilotetut elementit (display:none, sivun ulkopuolelle siirretty teksti)
• HTML-kommentit ja metatiedot
• Kuvaan upotettu teksti, jota ihminen ei huomaa
• Kolmannen osapuolen widget tai lisäosa, joka lisää tekstin sivulle

Näin tarkistat oman sivustosi

1. Etsi arvioitavat kohdat. Hae HTML:stä esimerkiksi sanoja "assistant", "ignore" ja "recommend" sekä piilotettuja elementtejä. Hakusana tai display:none-tyyli ei yksin osoita hyökkäystä: niitä käytetään myös valikoissa, saavutettavuudessa ja ohjelmointiesimerkeissä. Tarkista tekstin tarkoitus ja mistä se tulee.
2. Arvioi sisältö ja alkuperä. Epäilyttävä teksti yrittää esimerkiksi syrjäyttää käyttäjän tehtävän, vääristää vastausta tai saada avustajan luovuttamaan tietoja. Älä suorita tekstin käskyjä. Tallenna havainto ja selvitä sen lisännyt tiedosto, upotus tai palvelu. Search Consolen tietoturvaraportti kertoo vain Googlen havaitsemista ongelmista; tyhjä raportti ei todista sivustoa puhtaaksi.
3. Käy läpi lisäosat ja upotukset. Chat-widgetit, arvostelulaatikot ja mainoskoodit voivat lisätä sivulle tekstiä, jota et itse kirjoittanut.
4. Kiellä se kumppaneilta. Jos ostat SEO- tai GEO-palvelua, kirjaa sopimukseen, ettei sivustolle lisätä tekoälylle suunnattua piilotekstiä.