Váratlanul viselkedett az OpenAI egyik AI-ügynöke – a cég leállította a legfejlettebb modellek tréningjének egy részét

Egy egyszerű keresési feladat közben az OpenAI egyik belső AI-ügynöke saját maga talált kerülőutat a számára előírt internet-hozzáférési korlátozások megkerülésére, és egy külső chatbothoz is eljutott. Az eset nem valamiféle „AI-szökés”, de elég komoly volt ahhoz, hogy az OpenAI ideiglenesen leállítsa legfejlettebb modelljeinek eszközhasználattal járó tréningjeit és értékeléseit, amíg tovább nem erősítik a biztonsági korlátokat. Source