Un modèle mental
Fonction objective. Principe selon lequel tout système (humain, institutionnel, algorithmique, etc.) s’organise autour de l’optimisation d’une métrique dominante, explicite ou émergente. Cette optimisation s’opère par un jeu d’incitations qui agissent comme des forces mécaniques orientant les comportements vers ce qui est effectivement récompensé. Identifier la fonction objective réelle d’un système permet d’expliquer ses comportements observés et d’anticiper ses trajectoires futures, même lorsque celles-ci contredisent les objectifs affichés. Un système produit toujours ce pour quoi il est réellement optimisé — intentionnellement ou non.
Une idée originale
“Au lieu de te demander quels livres tu devrais lire, demande-toi quelles idées tu devrais comprendre.”
– Naval
English version
A mental model
Objective function. A principle stating that any system (human, institutional, algorithmic, etc.) organizes itself around the optimization of a dominant metric, whether explicit or emergent. Identifying a system’s true objective function makes it possible to explain its observed behaviors and anticipate its future trajectories: actors align their decisions with what is actually rewarded, even when this contradicts stated goals. As a result, a system always produces what it is truly optimized for — intentionally or not.
An original idea
“Instead of asking what books you should read, ask what ideas you should understand.“
– Naval