MarkTechPost

DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash

DeepSeek open-sourced DeepInfer, its production inference framework for DeepSeek-V4.1-Flash, reporting over 25,000 decode tokens per second.
MarkTechPost

Google Open-Sources TorchTPU, a Native PyTorch Backend for Cloud TPUs

Google open-sourced TorchTPU, a native PyTorch backend for Cloud TPUs that reaches 52% MFU training Qwen 3 8B.

ディープシーク、推論基盤「DeepInfer」をApache-2.0で公開 NVIDIAとAscendに対応

ディープシークは10月20日、自社の大規模サービスを支える推論フレームワーク「DeepInfer」をオープンソースで公開した。ライセンスはApache-2.0で、DeepSeek-V4.1-Flashに対応する。NVIDIAのSM100 ...