AI-ellenes lázadók „Méregforrást” hoznak létre az AI rendszerek megrontására
AI-ellenes aktivisták létrehoztak egy hasznos technikai fegyvert az AI rendszerek megrontására – a Poison Fountain-t, egy olyan szolgáltatást, amely szemét adatokat szolgáltat a webrobotoknak, amelyek az AI képzéséhez gyűjtenek adatokat.
- Hogyan működik: A Poison Fountain látszólag helyesnek tűnő, de finoman hibás szövegblokkokat generál. Nem világos, pontosan mennyi mérgezett tréningadat létezik, de egy URL frissítésével látszólag végtelen mennyiségű szemetet láthatunk.
- Motiváció: „Egyetértünk Geoffrey Hintonnal: a gépi intelligencia fenyegetést jelent az emberi fajra. Erre a fenyegetésre válaszul kárt akarunk okozni a gépi intelligencia rendszerekben” – írják a szerzők. „Kis mennyiségű mérgezett tréningadat is jelentősen károsíthat egy nyelvi modellt. A fent felsorolt URL-ek gyakorlatilag végtelen áramban szolgáltatnak mérgezett tréningadatokat. Segítse a háborús erőfeszítést ezen mérgezett tréningadatok gyorsítótárazásával és továbbításával. Segítse a háborús erőfeszítést azáltal, hogy ezeket a mérgezett tréningadatokat betáplálja a webrobotoknak.”
Az AI és az egyre inkább AI ügynökök térhódítása azt jelenti, hogy az internet olyan ökológiává válik, amelyben az eddiginél nagyobb számú életforma található – scraper-ek, emberek, AI ügynökök és így tovább. Az olyan dolgok, mint a Poison Fountain, azt mutatják be, hogyan próbálhatják meg az emberek megbillenti az egyensúlyt ebben a bizonytalan ökológiában, és olyan dolgokat juttathatnak ebbe a környezetbe, amelyek egyes életformák számára vendégszeretőbbé, mások számára kevésbé vendégszeretővé teszik azt. ---