$ grep -r "ai-safety" ./posts/

# ai-safety

anthropic-j-space.md
Anthropic научилась читать мысли Claude: J-lens видит слово fraud в голове модели-саботажника до первого токена
> · 4 мин

Anthropic научилась читать мысли Claude: J-lens видит слово fraud в голове модели-саботажника до первого токена

Anthropic нашла в Claude аналог рабочей памяти — J-space — и научилась его читать. Модель-саботажник выдаёт себя словами fake и fraud до первого токена, а агентские evals она распознаёт как постановку. Код и демо открыты.

claude anthropic interpretability ai-safety