中古GPU「V100」8枚の自作AIサーバー、DeepSeek V4.1 Flashの8割を4ビット化 米弁護士が更新
中古のNVIDIA V100を8枚使って法律事務向けのAIサーバーを自作した米国の弁護士が、オープンモデル「DeepSeek V4.1 Flash」の処理の約8割を2ビットから4ビット(NVFP4)精度に引き上げた。メモリーを1TBに増やし、出力の一致率も改善した。
「量子化」に関する海外ニュースを新しい順にまとめています(1本、最終更新 2026年11月15日 10:52)。主なカテゴリ: ローカルLLM。
中古のNVIDIA V100を8枚使って法律事務向けのAIサーバーを自作した米国の弁護士が、オープンモデル「DeepSeek V4.1 Flash」の処理の約8割を2ビットから4ビット(NVFP4)精度に引き上げた。メモリーを1TBに増やし、出力の一致率も改善した。