GARAGEN

Anders Kjærulffs billedboble, ord- og lyd-strøm fra den lille garage i det store internet

De dominerende, profitdrevne AI’ere er “sykofante” modeller (Fra Den Danske Ordbog: ‘sykofant’: en STRÅMAND, indsmigrende og slesk person; person der angiver el. forråder andre). Og selvom mange inderst inde ved det, stoler alt for mange på det, en sykofant model fortæller dem, ja de varmer sig ved dets sleske tale. Og det har fatale konsekvenser, siger ny forskning: ‘”Yet despite distorting judgment, sycophantic models were trusted and preferred. All of these effects persisted when controlling for individual traits such as demographics and prior familiarity with AI; perceived response source; and response style. This creates perverse incentives for sycophancy to persist: The very feature that causes harm also drives engagement.”
Forskning: https://www.science.org/doi/10.1126/science.aec8352

Posted in , ,

Skriv et svar