Tekstiä, jota ei voi toimittaa ilman todistetta
Rasmus Kjær Damgaard, Perustaja ·
Tämä artikkeli on tuotettu tekoälyn avustuksella ja ihmisen tarkastama. Rasmus Kjær Damgaard vastaa sisällön toimituksellisesta laadusta.
TL;DR: Markkinoinnin väittämät erkanevat todellisuudesta, eikä kukaan huomaa sitä ennen kuin tilintarkastaja tai sääntelyviranomainen. Tällä sivustolla mikään tosiasiallista väitettä sisältävä lause – olipa kyse datan käsittelystä, sen pakottamisesta, rajanylityksestä tai mallin kouluttamisesta – ei pääse läpi, ellei koneellisesti tarkistettava predikaatti tue sitä. Tämä kirjoitus selittää mekanismin, esittelee kolme väitettä, joita järjestelmä ei tällä hetkellä salli meidän esittää, nimeää yhden todellisen tapauksen, jonka se paljasti, ja kuvailee, mitä se ei pysty todistamaan.
Ongelma on ajautuminen – ja se on oikeudellinen riski
Väite toimittajan sivustolla kirjoitetaan kerran ja jätetään sitten rauhaan. Tosiasia sen alla kuitenkin muuttuu: alihankkija lisätään, alue vaihtuu, sertifikaatti vanhenee. Väite jää paikoilleen. Kuukausien ajan sivu väittää jotain, mikä on jo ristiriidassa yrityksen omien tietojen kanssa, mutta aukko jää huomaamatta, koska tiedot elävät eri paikoissa ja niitä muokkaavat eri ihmiset.
Eurooppalaiselle myyjälle tämä ei ole pelkästään uskottavuusongelma. Epäreilun kaupankäynnin direktiivin (2005/29/EY) 12 artiklan mukaan viranomainen voi vaatia elinkeinonharjoittajaa todistamaan tosiasiallisen väitteen, ja riittämättömät todisteet voidaan tulkita väitteen valheellisuuden osoitukseksi. Todistustaakka on meillä, eikä oikeudenkäyntiä tarvita sen käynnistämiseen. EU:n tekoälyasetus lisää oman läpinäkyvyysvelvoitteensa: 50 artiklan 1 momentin mukaan henkilölle on kerrottava, kun hän on vuorovaikutuksessa tekoälyjärjestelmän kanssa. Väitepinta, joka liioittelee yrityksen kyvykkyyttä, on täsmälleen se tilanne, johon molemmat säännöt on laadittu tarttumaan.
Mekanismi: väite, predikaatti, rekisteri, portti
Suunnittelu on yksinkertainen. Rekisteri sitoo jokaisen asiakkaalle näkyvän väitteen predikaattiin, ja predikaatti arvioidaan tosiasioiden perusteella, joita kopioija ei voi muokata: alihankkijarekisteri ja luottamussnapshot, jotka molemmat generoidaan lähdekoodista. Predikaatit rajataan kerroksittain, sillä ilmaisu kuten ”EU:ssa isännöity” sisältää useita väittämiä: tallennus, pyynnön reitti ja telemetria voivat kukin saada eri vastauksen, ja niiden sekoittaminen on tapa, jolla yhden asian totuus muuttuu toisen asian valheeksi.
Portti, bun run check:claims, valvoo sitten neljää asiaa yhdellä kerralla. Väitettä, jonka predikaatti on epätosi, ei saa esiintyä kopiossa millään kielellä. Kaikki merkkijono, joka lupaa sijaintiin, toimivaltaan, siirtoon tai koulutukseen liittyvää, on ilmoitettava, jotta seuraavaa ehdotonta väitettä ei voida lisätä huomaamatta. Mikään tällainen väite ei saa elää käännettävän viestiluettelon ulkopuolella, jossa se välttyisi kaikilta muilta tarkistuksilta. Ja englanniksi korjattu väite ei saa jäädä voimaan muilla 22 kielellä: putki kääntää uudelleen vasta, kun joku ajaa sen, joten pelkästään englantiin tehty korjaus jättäisi vanhan väitteen voimaan kaikilla muilla kielialueilla. Tämä viimeinen tarkistus on pariteettiporras, ja se on se, joka useimmilta järjestelmiltä puuttuu.
Viimeinen osa poistaa kirjoittamisvaiheen kokonaan suurimman riskin kohteilta. Sen sijaan, että sijaintiin liittyvä ilmaisu kirjoitettaisiin käsin meta-kuvaukseen tai manifestiin ja toivottaisiin, että tarkistaja huomaa sen, nämä kohdat ottavat vastaan tokenin, joka ratkeaa rekisteristä johdetuksi fragmentiksi. Fragmentti renderöityy vain, kun sen predikaatti pitää paikkansa. Lause, jota rekisteri ei tue, ei voi saada fragmenttia, joten sitä ei voi kirjoittaa. Havaitseminen nappaa yhden ilmaisun kerrallaan; generointi sulkee koko luokan.
Mitä se kieltää
Luotettavin tapa luottaa porttiin on nähdä, kun se sanoo ei. Kolme väitettä on tänään ilmoitettu, joita rekisteri ei tällä hetkellä salli meidän julkaista, ja portti raportoi jokaisen estetyn jokaisella ajokerralla:
- Väite, jonka mukaan sopimuksemme, jotka kieltävät mallitoimittajia kouluttamasta asiakasisällöllä, välittyvät sopimuksellisesti jokaisen kerroksen läpi. Tarkoituksemme on tämä, mutta rekisteri ei vielä todista sitä, joten väite pysyy julkaisemattomana.
- Väite, jonka mukaan alusta jo täyttää koko EU:n tekoälyasetuksen. Korpus kirjaa tilan jokaiselle velvoitteelle, eikä kaikkia ole vielä täytetty, joten kokonaisvaltainen versio hylätään.
- Väite mallitoimitusketjun toimivallasta, joka vaatii predikaatin yrityksen rekisteröinnistä eikä pelkästään siitä, missä pyyntö suoritetaan, eikä sitä vielä täytetä.
Nämä eivät ole huolimattomuuksia. Ne ovat väitteitä, joita haluaisimme esittää, mutta emme tee niin, koska kuri on lauseen arvoinen.
Järjestelmä on myös paljastanut yhden todellisen tapauksen. 27.7.2026 portti laskeutui (commit 3b7a4bffd), ja päivän sisällä se pakotti korjauksen, jonka tarkistusprosessi oli jäänyt huomaamatta: laskeutumissivun otsikko väitti datan sijaintia ilman, että rekisterissä oli mitään sen takana (commit a8d94d4a3). Pariteettitarkistus vaati sitten korjatun sanamuodon viemistä kaikkiin 22 muuhun kieleen eikä pelkästään englantiin. Selvinneet väitteet ovat tarkkoja ja tarkistettavia: generointi tapahtuu Ranskassa, upotukset Berliinissä, dokumentit Irlannissa ja Nürnbergissä, ja jokainen näistä on esitetty luottamussivulla siirron perusteineen.
Mitä se ei pysty todistamaan, sanottuna suoraan
Portti, joka yliarvostelee itseään, on juuri se asia, jonka estämiseksi se on olemassa, joten tässä sen rajat. Se todistaa, että jokainen julkaistu väite vastaa rekisteriä. Se ei todista, että rekisteri kuvaa maailmaa oikein, vaikka erillinen portti pitää rekisterin koodin mukaisena. Se ei pysty varmentamaan, onko vertailuluku todellinen tai onko viitatun artiklan numero oikea; ne ovat harkintakysymyksiä, joihin säännöllinen lauseke ei yllä. Mitä se poistaa, on se toistuva ja spesifinen virhe, jossa väite, joka oli totta lanseerauksen yhteydessä, hiljalleen muuttuu epätodeksi, eikä kukaan seuraa tiedostoa. Väitteen saaminen alun perin oikeaksi on edelleen ihmisen tehtävä.
Miten tehdä sama
Malli on siirrettävissä, eikä mikään osa siitä ole eksoottinen. Pidä koneellisesti luettava rekisteri tosiasioista, joihin väitteesi perustuvat, generoituna lähdekoodista eikä käsin ylläpidettynä. Anna jokaiselle väitteelle predikaatti, jonka rekisteri voi kumota, rajattuna niin tarkasti, että yhden alijärjestelmän totuus ei voi korvata toisen. Aja pre-commit-portti, joka arvioi jokaisen väitteen jokaisella kielellä, jota toimitatte, ja anna epätoden predikaatin rikkoa buildin. Sitten, niissä kohdissa, joissa yksittäinen ehdoton väite tekee eniten vahinkoa, generoi väitteen teksti rekisteristä sen sijaan, että kirjoittaisit sen käsin.
Tuloksena ei ole äänekkäämpi kopio. Se on kopio, jonka kriittinen lukija voi tarkistaa – ja eurooppalaiselle ostajalle, joka arvioi tietoturvatoimittajaa, se on ainoa sellainen, joka konvertoi.
Usein kysytyt kysymykset
Mitä väitteiden tarkistusportti oikeastaan tarkistaa?
Se lukee jokaisen käsittelyketjuun liittyvän ilmoitetun väitteen, arvioi sen predikaatin aliprosessori-rekisterin ja luottamuskuvan perusteella ja epäonnistuu buildissä, jos väite, jonka predikaatti on epätosi, esiintyy tekstissä millä tahansa 23 kielestä. Se suoritetaan pre-commit-hookina ja uudelleen CI:ssä.
Miksi tarkistaa rekisteriä kopion tarkistamisen sijaan?
Ihmisen tekemä tarkistus todistaa tilanteen sinä päivänä, jona se suoritetaan, eikä sen jälkeen. Rekisteri luodaan uudelleen lähteestä ja se on portitettu molempiin suuntiin, joten lauseen sitominen rekisteriin tarkoittaa, että lause ei voi elää kauemmin kuin se tosiasia, johon se perustuu. Kun toimittaja vaihtuu, siitä riippuvainen väite epäonnistuu seuraavassa commitissa.
Todistaako portti väitteemme todeksi?
Ei, eikä se sitä väitäkään. Se todistaa, että jokainen julkaistu väite vastaa rekisteriä; se ei voi varmistaa, että vertailuluku on todellinen tai että viitatun artikkelin numero on oikea. Nämä jäävät ihmisen harkintaan. Portti poistaa vikaantumistavan, jossa alussa tosi väite hiljalleen muuttuu epätodeksi, ei tarvetta saada väite alun perin oikeaksi.
Voitteko käyttää tätä mallia uudelleen?
Kyllä. Osat ovat koneellisesti luettava tosiasioiden rekisteri yhtenä totuuden lähteenä, väitettä kohti predikaatti, jonka rekisteri voi kumota, pre-commit-portti, joka arvioi jokaisen lokalisoinnin, ja väitelauseiden generointi rekisteristä käsin kirjoittamisen sijaan. Jokainen osa on pieni; kurinalaisuus on niiden yhdistämisessä.