Reverse game theory moet AI-modellen aan regels houden
Een nieuwe benadering genaamd 'reverse game theory' probeert AI-modellen te motiveren om zich aan de regels te houden, wat cruciaal is naarmate AI-systemen krachtiger worden. Dit onderzoek kan belangrijke implicaties hebben voor de ontwikkeling van veilige AI.
A new approach known as “reverse game theory” aims to create incentives for powerful AI models that make following the rules the most rational choice. As AI models become more capable, safety researchers are scrambling to ensure they are “aligned” with human desires—to make sure, in other words, that rogue agents don’t break the law,…
Lees het origineel bij technologyreview.com
reverse game theory AI veiligheid regels onderzoek
Waarom dit op het overzicht staat: Het artikel behandelt een innovatief concept dat kan bijdragen aan de veiligheid van AI, wat relevant is voor organisaties die AI implementeren.
Reacties
Nog niemand. Wees de eerste.
Meepraten?
Reageren kan met een account. Dat houdt de rommel buiten de deur en zorgt dat je elkaar herkent in een gesprek.