AWS Machine Learning Blog· Mijanur Palash·· 23 小时前AI 评分34
在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod
AI 导读
针对 GPT-OSS-20B 在多语言推理测试中仅 22% 用目标语言思考的问题,AWS 在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 进行微调。结论是 SFT 承担大部分工作,GRPO 在仍有提升空间时进一步优化,技术选择需匹配模型能力差距。团队还用 Qwen2.5-7B 做了跨任务对照实验。
来源:AWS Machine Learning Blog · aws.amazon.com