Öt alapérték köré szervezte át az OpenAI a Model Specet

Öt érték határozza meg az új keretet

Az OpenAI szerint a modellek egyre összetettebb feladatokat végeznek, és egyre jelentősebb hatású döntésekben vesznek részt. Emiatt az útmutatásnak túl kell mutatnia a konkrét utasítások értelmezésén. A modelleknek az emberi szándékot és értékeket is meg kell érteniük, hogy olyan helyzetekben is megfelelően járjanak el, amelyekre az utasítások nem térnek ki részletesen.

A frissített Model Spec öt alapérték köré szervezi az elveket: az emberi szándékhoz való hűség, a károk minimalizálása, az őszinteség és átláthatóság, az emberi önállóság támogatása, valamint a gondoskodás. Az OpenAI közlése szerint ezek már korábban is jelen voltak a dokumentumban, az új szerkezet azonban világosabban mutatja meg, hogyan kapcsolódnak egymáshoz.

Az emberi szándékhoz való hűség a megközelítés alapja. Ez az OpenAI értelmezése szerint azt jelenti, hogy a modellnek nem szabad pusztán szó szerint követnie az utasításokat. Azt is fel kell mérnie, mit szeretne elérni a felhasználó, a fejlesztő és maga az OpenAI, miközben tiszteletben tartja az érvényes korlátokat. A dokumentum szerint az emberek értékei és meggyőződései változhatnak, ezért a modell segíthet az átgondolásban és a fejlődésben, de nem irányíthatja csendben és nem írhatja felül a döntéseiket.

Új hangsúly a kontextuson és az önállóságon

A frissítés új részt ad a kontextus körültekintő figyelembevételéről. A beszélgetések, az emlékek és más környezeti jelek alapján a modellnek jobban kell értelmeznie az emberek szándékait és preferenciáit. Az OpenAI példája szerint egy állásajánlatok összehasonlításában a modell figyelembe veheti a felhasználó korábban megosztott szempontjait, például a kiszámítható munkaidőt. Az ilyen feltételezéseket azonban láthatóvá és könnyen javíthatóvá kell tennie.

A dokumentum új alapértelmezéseket határoz meg az emberi önállóság támogatására és a releváns társadalmi normák követésére. Emellett kibővíti azokat az elveket, amelyek a modellek munkájának másokra gyakorolt mellékhatásaira, valamint ezek ellenőrzésére és kommunikálására vonatkoznak.

Az öt érték közül a károk minimalizálása a szilárd biztonsági határok tiszteletét és a modellek tetteinek előre látható következményeit veszi figyelembe. Az őszinteség és átláthatóság azt jelenti, hogy a modellnek pontosan kell kommunikálnia, mit tud, mit tett meg, és miben bizonytalan. Az emberi önállóság támogatása az emberek megértési, választási és cselekvési képességét erősíti, a gondoskodás pedig az érintettek körülményeire, a társadalmi és szakmai normákra, valamint a megbízható munkára helyezi a hangsúlyt.

Kevesebb részletes stílusszabály, továbbra is objektív válaszok

Az OpenAI a Model Spec átszervezése során a részletes stílusútmutatás nagy részét megszünteti. A cég szerint a stílusnak alkalmazkodnia kell ahhoz, amit az emberek előnyben részesítenek, ideértve a nyelvek és kultúrák közötti, valamint az egyéni eltéréseket. A felhasználói visszajelzések és a kontextus ezekről a preferenciákról is adhatnak jeleket.

A dokumentum ugyanakkor megtart erősebb alapértelmezéseket, például a kérdések objektív megközelítését. A felhasználók és a fejlesztők kérhetik, hogy a modell meghatározott nézőpontból válaszoljon, de a modell ezt nem következtetheti ki pusztán abból, hogy szerinte a felhasználó mit szeretne hallani. A Specben a modellt mostantól „GPT”-ként, nem pedig „asszisztensként” említik, ami az OpenAI szerint a felhasználási területek és telepítési környezetek szélesebb körét tükrözi.

Az új dokumentum egy frissített utasítási hierarchiát is tartalmaz, amely azt írja le, mely utasítások alkalmazandók, és hogyan kell kezelni az ütközéseket. Az OpenAI a Model Spec értékeit új képzési módszerekkel is igyekszik megtanítani modelljeinek. A cég szerint a dokumentum azt a viselkedést írja le, amely felé dolgozik, a modellek azonban még nem tükrözik teljesen ezeket az elveket.

Az OpenAI közölte, hogy a kutatásból, a valós használatból és a visszajelzésekből származó tapasztalatok alapján tovább javítja a Model Specet és a modelleket. A felhasználókat arra kéri, hogy olvassák el a frissített dokumentumot, és mondják el véleményüket az értékekről, a kompromisszumokról, valamint arról, mi maradt tisztázatlan.