nabinnonabinno のブックマーク 2025/02/05 00:24

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

UnslothのGoogle Colabノートブックで手軽にLLMの蒸留ができる|shi3z

    これがすごく簡単なので、蒸留をお手軽に試したいという人にうってつけだと思う。何よりすごいのは、彼らが実装した動的量子化のおかげで、4ビットLoRA(QLoRA)の性能劣化が抑えられ、無料アカウントでも7Bモデル...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう