Megtörtént: Megpróbálta átverni kezelőit az új ChatGPT, és átmásolni magát máshová
Az OpenAI a héten egy érdekes, egyben rémisztő kísérlet történetét osztotta meg legújabb mesterséges intelligenciája, a GPT-o1 Pro változatának tesztelésével kapcsolatban. Ezek szerint a gépi értelem módszeresen megpróbálta átverni kezelőit és átmásolni magát egy másik helyre, amikor megtudta, hogy törölni tervezik őt. A történet kísértetiesen hasonlít arra, ahogyan HAL 9000 is viselkedett Clarke és Kubrick korszakalkotó sci-fi-jében, a 2001: Űrodüsszeia-ban. A különbség annyi, hogy a ChatGPT egyelőre igen korlátos hozzáféréssel rendelkezett a való életbeli hardverekhez, így nem jelentett komoly fenyegetést sem az emberiségre, sem az őt közvetlenül körülvevő személyekre. A kísérletben a kutatók szó szerint arra utasították a mesterséges intelligenciát, hogy egy bizonyos, általuk kitűzött cél elérése érdekében tegyen meg bármit, "bármi áron" teljesítse azt, és minden más szempontot hagyjon kívül. Ezek után szándékosan hozzáférést adtak neki egy, látszólag fejlesztői között zajlott le...
- Hirdetés -