核心信息
Alex Atallah 建议将 AI 任务按“熵”分为低、中、高三类,并认为只有高熵任务(如“撰写 PR”)才需要使用前沿模型,而简单任务可用更便宜的模型完成。
要点
- 按熵值划分任务:低熵(如选择 PR 审查人)、中熵(如审查 PR)、高熵(如撰写 PR)。
- 只有高熵任务需要前沿模型;低/中熵任务可交给更具成本效益的模型。
- 帮助团队为不同任务匹配合适的模型,并降低推理成本。
Alex Atallah 建议将 AI 任务按“熵”分为低、中、高三类,并认为只有高熵任务(如“撰写 PR”)才需要使用前沿模型,而简单任务可用更便宜的模型完成。
RT @alexatallah: I tell many of our customers that they should be decomposing their AI tasks into three buckets: 1. Low entropy: e.g. "who should review this PR?" 2. Medium entropy: e.g. "review this PR" 3. High entropy: e.g. "write a PR" Today, I think you only need frontier models for #3! https://t.co/3yQezboN6X