Huggingfaceで公開されているLLMのモデルを使ってローカル環境で動作するAIプログラミングを作ろうと思い色々調べてみる。
とりあえずHuggingfaceの使い方
◯HuggingFaceのサイトにアクセスして画面の上に方にあるModelsをクリック
◯Tasksをクリックするとどんな用途（例えばTextToImageとか）を選べるので目的にあったものをクリック
◯Languageをクリックすると使用言語が選べるので、例えば英語から日本語に変換する場合はEnglishとJapaneseを選択する
◯真ん中の入力エリアに文字列を入れるとその文字にヒットしたものだけが表示される（モデルの名前とかサイズとかでフィルタできる）
◯右側の選択エリアはソートの順番を選べる
用途にあったものが真ん中あたりに表示されるので選んだものをクリックする
そのモデルの詳細が表示される
◯右のあたりにあるUseThisModelをクリックするとどの環境で使用するかが選べるので、例えばPythonにインポートして使用する場合はllama-cpp-python をクリックする
◯Pythonでインポートする方法とモデルを読み出す方法などが表示されるので、参考に実装する
コメント