Open AI har skapat en säkerhetskommitté som ska övervaka tränandet av företagets nya modeller. Kommittén kommer att bestå av medlemmar från företagets styrelse, bland annat dess VD Sam Altman.
I takt med att AI-utvecklingen går snabbare höjs också fler röster för säkerheten när de nya modellerna blir allt smartare. När Open AI ska träna sin nästa modell har man därför skapat en säkerhetskommitté.
Den nya kommittén kommer ansvara för att ge rekommendationer till företagets styrelse kring säkerheten för Open AI’s projekt.
Den första uppgiften som man under 90 dagar kommer att ta tag i är att utvärdera företagets nuvarande säkerhetsarbete och -principer. Man kommer också att konsultera utomstående AI-experter. Därefter kommer man att ge uppdaterade rekommendationer till styrelsen. Man säger också att man ska dela med sig av de nya riktlinjerna och rekommendationerna med allmänheten.
