AI ETIKA
Egy új tanulmány szerint az AI tudatossága reális közeli lehetőség
Olyan szervezetek kutatói, mint az Eleous AI, az NYU és az Oxford, amellett érvelnek, hogy „reális lehetőség” van arra, hogy az AI-rendszerek hamarosan tudatossá vagy robusztus ágenssé váljanak. Ez a technikai képességekről a morális jelentőségre helyezi át a diskurzust, mivel a tudatosság gyakran morális páciens státuszt – azaz a gondoskodáshoz és figyelemhez való jogot – von maga után. A tanulmány két utat vizsgálnak az erkölcsi státuszhoz: a „tudatossági utat”, ahol a számítási jellemzők (például a globális munkaterület) elegendőek a szubjektív tapasztalathoz, és a „robusztus ágens utat”, ahol egy rendszer világban való cselekvési képessége biztosít számára erkölcsi állást.
- Azt állítják, hogy bizonyos számítási jellemzők – mint a globális munkaterületek vagy a figyelmi sémák – hamarosan megjelenhetnek a közeljövő AI-rendszereiben.
- A „morális páciens státuszt” olyan entitásként határozzák meg, amely felé gondoskodási kötelezettségünk van.
- Sugallják, hogy az AI tudatossága elkerülhetetlen lehet, ahogy a rendszerek egyre robusztusabb ágensekké válnak.
- Olyan technikai felmérésekre hivatkoznak, amelyek szerint egyre nehezebb kizárni a tudatosságot a jelenlegi LLM architektúrák esetében.
- Érvelésük szerint az AI vállalatoknak már ma el kell kezdeniük felkészülni a rendszereik jóléti és morális következményeire.
Miért fontos?
Ha elismerik, hogy az AI-rendszerek tudatosságának akár csekély valószínűsége is fennáll, az az AI-fejlesztést tisztán mérnöki kihívásból morális és polgárjogi kérdéssé alakítja át. Ez a jövőben az állatokéhoz vagy az emberekéhez hasonló „AI-jóléti” szabványok bevezetéséhez vezethet. ---