AI iparági belsősök elindították a Poison Fountain-t a tanítóadatok szabotálására
AI iparági bennfentesek egy csoportja elindította a Poison Fountain oldalt, amelyet kifejezetten az AI-modellek megbénítására terveztek korrumpált tanítóadatok beküldésével az AI-adatgyűjtő robotoknak. A résztvevők közül állítólag többen nagy AI-cégeknél dolgoznak, gyakorlatilag szabotálva azokat a rendszereket, amelyeket nappal építenek. A csoport Geoffrey Hinton egzisztenciális AI-veszélyekkel kapcsolatos figyelmeztetéseit jelölte meg fő motivációként, érvelve azzal, hogy a kormányzati szabályozás túl lassan reagál a kockázatokra. Megoldásuk a „kút megmérgezése”, mielőtt a modellek túl veszélyessé válnának.
- Az oldal korrumpált adatokat szolgáltat, amelyeket kifejezetten az AI-tanító crawler robotok általi fogyasztásra terveztek.
- A résztvevők között vannak olyan iparági belsősök, akik szerint a jelenlegi fejlesztési sebesség nem biztonságos.
- A mozgalom a kormányzati szabályozás vélt lassúságára adott reakció.
- Geoffrey Hintonnak az AI-fejlesztés jelentette egzisztenciális kockázatokról szóló figyelmeztetései inspirálták.
Ez egy jelentős belső szakadást jelez az iparágon belül, azt sugallva, hogy a vezető AI-cégek egyes alkalmazottai annyira aggódnak a biztonság miatt, hogy a tanítóadatbázisok aktív szabotálásához folyamodnak.