一种新的AI模型改进方法，称为递归自我改进（RSI），侧重于增强模型的核心能力，而不仅仅是其周围框架。该方法涉及AI生成自己的问题解决方案，在没有人为干预的情况下自动验证这些解决方案的正确性，然后对经过验证的集合进行再训练。此过程旨在改进模型。 AI
影响 这种方法可以通过减少对人工标记数据的依赖并使模型能够持续改进其核心推理能力来加速AI开发。
排序理由 该集群讨论了一种新颖的AI模型训练方法，这是一个研究课题。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 6 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
TL;DR A function-calling or MCP agent reads more than the user's message. It also reads the descriptions of the tools it can call, and the content those tools return . Both are text, both flow into the same context window, and a model does not natively distinguish "instruction fr…
A commenter caught my agent describing a design as running code. The verified publish loop never saw it. Here's the audit system I built. # ai # python # automation # devops # software # coding # development # engineering # inclusive # community The Loop Is Closed — So Who Checks…
ZTC decide si confiar en una accion de IA leyendo el estado interno del modelo, sin un segundo modelo juez. AUC 0.7289 y 0.06s por decision. # ai # llm # security # spanish # software # coding # development # engineering # inclusive # community ZTC (Zero-Token Confidence): juzgar…
TL;DR Mixture-of-Experts (MoE) models look enormous on disk, but only a small slice of the weights does work on any single token. A 180B-parameter MoE can activate roughly 3B parameters per forward pass. That sparsity is exactly why 4-bit GGUF quantization behaves so differently …
TL;DR Most language models get better because people write more training data for them. Darwin-180B-RSI gets better a different way. It attempts problems whose answers can be checked automatically, keeps only the self-generated solutions that pass the check, and then retrains on …
재귀적 자가개선(RSI)은 결국 무엇을 한다는 말인가? TL;DR: RSI(Recursive Self-Improvement, 재귀적 자가개선)는 모델이 스스로 문제를 만들어 풀고, 그 풀이 중에서 정답이 확실히 확인된 것만 골라 다시 학습 데이터로 삼아 자신을 개선하는 방식입니다. 핵심은 세 가지입니다. 첫째, 문제는 반드시 검증 가능해야 합니다. 둘째, 채점에 사람 정답표를 쓰지 않습니다. 셋째, 통과한 자기 풀이만 다음 학습에 남깁니다. 보통의 학습은 사람이 만든 정답 데이터가 있어야 합니다.…