今話題のbolt.newのシステムプロンプトを覗いてみる【LLM】
最近、bolt.newというテキストからフルスタックアプリケーションを開発できるAIツールが話題なので、そのシステムプロンプトを覗いてみました。
システムプロンプトコード原文import { MODIFICATIONS_TAG_ ...LightRAGという軽量で高速なRAGが登場したので見てみる【LLM】
今回は、軽量かつ高速なRAGとしてLightRAGというのが出たらしいので少し見てみます。
概要LightRAGとはLightRAGについては、以下の記述が分かりやすいので日本語訳で引用します。
Retriev ...
OpenAI公式からプロンプト生成のための最強メタプロンプトが公開されていたので内容を見てみる【LLM】
今回はOpenAI公式から発表された、プロンプト生成のためのメタプロンプトを見てみます。
概要プロンプトやスキーマを一から作成するのは時間がかかるため、生成機能を利用すると効率的ということで、主に2つのアプローチを使用しま ...
LLMをコード流用で実行しようとしたら他のモデルでは問題なかったのに突然エラーが出て困った話【Python】
今回はタイトルの通り、「さっきまで他のLLMで問題なかったのに何でこのモデルだけ！？」みたいなエラーに遭遇したのでその備忘録です。
事象実行コード１エラーの前に、実行したコードを部分的に抜粋して紹介します。
impo ...Claude-3.5-Sonnetが推論でOpenAI-o1モデルに勝つのに役立つプロンプトというのが話題になっているらしいので内容を見てみた【LLM】
LLM界隈で「Claude 3.5 SonnetでもOpenAI o1をアウトパフォームすることが可能」みたいな話が出回っていたので、今回はその内容を見ていきます。
ちなみにローカルLLMで使用されるような小規模言語モデル ...
Llama3.2に日本語で質問したら挙動がおかしくホラーみたいな内容もあったというそんな話【Python】
今回はLlama3.2で遊んでいたところ、日本語性能があまり良くなかったというだけのお話です。
ちなみに今回使用したモデルは”meta-llama/Llama-3.2-3B-Instruct”で、8 ...
OpenAIのプロンプト自動生成機能のシステムプロンプトがリークしていたので見てみる
OpenAI（Chat-GPT）にプロンプト自動生成機能が追加されたことが話題となりましたが、そのシステムプロンプトが見つかったみたいなので見てみます。
OpenAIのプロンプト自動生成機能のシステムプロンプトシステムプロンプト ...Llama3.2の90Bを使いたくて量子化しようとしたら変なエラー出た話：importlib.metadata.PackageNotFoundError: No package metadata was found for bitsandbytes【Python】
Llama-3.2-90B-Vision-Instructを使いたくて量子化を試みました。
11Bでいいじゃないかとも思いますが、どうせなら一番デカい90Bを使いたい。ただのロマンです。
Llama3.2を試してみて、初心者が最初に気をつけるべきだと感じたポイント【Python】
最近、Llama3.2が出てLLM界隈はじめ、AI界隈全体で話題となっています。
今回はLlama3.2を試そうと動かしたときに躓いた、ちょっとしたポイントについてお話します。
Llama3.2を試すサンプルコード