Facebook: Ne építsünk önfejlesztő AI-t, hanem közösen fejlesztő AI-t

2025. december 8. · MI Történik? · 2 perc olvasás

A Facebook kutatói szerint az önfejlesztő AI építése, amely végül szuperintelligenciát ér el, „veszélyekkel teli az emberiség számára – a visszaéléstől az eltérő célokig”, és ehelyett jobb lenne a szuperintelligencia közös fejlesztése. Érvelésüket egy olyan tanulmányban publikálták, amely egyszerre ambiciózus és őszinte. Ideális esetben az emberek és gépek együtt dolgoznának egy emberinél okosabb rendszer létrehozásán, és a kutatók úgy vélik, hogy egy kutatási programot kellene kidolgoznunk, amely „az AI rendszerek azon képességének javítását célozza, hogy együttműködjenek emberi kutatókkal az AI kutatásban, az ötleteléstől a kísérletezésig, mind az AI kutatás felgyorsítása, mind pedig általánosságban az AI-k és emberek biztonságosabb szuperintelligenciával való felruházása érdekében szimbiózisuk révén.” A tézis itt az, hogy „a közös fejlesztés a következőket biztosíthatja: (i) gyorsabb haladást a fontos paradigmaváltások megtalálásában; (ii) nagyobb átláthatóságot és irányíthatóságot, mint a közvetlen önfejlesztés ezen előrelépés során; (iii) nagyobb hangsúlyt az emberközpontú biztonságos AI-ra.” Miből áll egy közösen fejlesztő AI?

Kollaboratív ötletgyűjtés, probléma, kísérlet, benchmark és értékelés azonosítása: Az embereknek és az AI-knak közösen kell meghatározniuk a célokat, a kutatási megközelítéseket, a progresszus méréséhez szükséges teszteket, az adatok generálásához szükséges kísérleteket és az eredmények értékelésének módszereit.
A biztonság és a bevezetés közös fejlesztése: Az embereknek és az AI-knak közösen kell kidolgozniuk a technológia összehangolására, valamint a technológia bevezetésére és kommunikációjára vonatkozó módszereket.
„Az általános együttműködés célja az intelligencia növelése mind az emberekben, mind az AI-ban, beleértve a kutatási ciklusból származó összes megnyilvánuló tanulást, a közös szuperintelligencia elérése érdekében” – írják.

Miért fontos?

A "The Wire" című alapvető amerikai sorozatban van egy jelenet, ahol egy feltörekvő bűnöző vezér azt mondja egy biztonsági őrnek, aki a társadalmi törvényeket próbálja érvényesíteni: „[Azt akarod, hogy egyféleképpen legyen, de az mégis másképp van](https://www.youtube.com/watch?v=409Pjtq7jzY)”. Ez az érzés fogja el az embert e tanulmány olvasásakor: az AI kutatók, szembenézve az automatizált AI R&D valószínűsíthető közelgő érkezésével, megfogalmazzák, hogy a dolgok jobban és ésszerűbben alakulnának, ha az emberek kooperatívan fejleszthetnék a jövőbeli AI-t, és írnak róla egy állásfoglalást. De vajon csak egy olyan világ után kapkodnak, amely valószínűleg nem fog létezni, és szorongásukat fogalmazzák meg egy állásfoglalás formájában? Talán. ---

Eredeti forrás megtekintése (angol) →