Python

最近、bolt.newというテキストからフルスタックアプリケーションを開発できるAIツールが話題なので、そのシステムプロンプトを覗いてみました。

システムプロンプトコード原文import { MODIFICATIONS_TAG_ ...

今回は、軽量かつ高速なRAGとしてLightRAGというのが出たらしいので少し見てみます。

概要LightRAGとは

LightRAGについては、以下の記述が分かりやすいので日本語訳で引用します。

Retriev ...

今回はOpenAI公式から発表された、プロンプト生成のためのメタプロンプトを見てみます。

概要

プロンプトやスキーマを一から作成するのは時間がかかるため、生成機能を利用すると効率的ということで、主に2つのアプローチを使用しま ...

今回はタイトルの通り、「さっきまで他のLLMで問題なかったのに何でこのモデルだけ！？」みたいなエラーに遭遇したのでその備忘録です。

事象実行コード１

エラーの前に、実行したコードを部分的に抜粋して紹介します。

impo ...

LLM界隈で「Claude 3.5 SonnetでもOpenAI o1をアウトパフォームすることが可能」みたいな話が出回っていたので、今回はその内容を見ていきます。

ちなみにローカルLLMで使用されるような小規模言語モデル ...

今回はLlama3.2で遊んでいたところ、日本語性能があまり良くなかったというだけのお話です。

ちなみに今回使用したモデルは”meta-llama/Llama-3.2-3B-Instruct”で、8 ...

Pyinstallerを使ってexe化したら超絶重くて萎えた・・・誰しもがこんな経験ありますよね？

今回はPythonの仮想環境（venv）を使って、必要最低限のライブラリのみをインストールした超軽量なexeファイルを作成 ...

OpenAI（Chat-GPT）にプロンプト自動生成機能が追加されたことが話題となりましたが、そのシステムプロンプトが見つかったみたいなので見てみます。

OpenAIのプロンプト自動生成機能のシステムプロンプトシステムプロンプト ...

Llama-3.2-90B-Vision-Instructを使いたくて量子化を試みました。
11Bでいいじゃないかとも思いますが、どうせなら一番デカい90Bを使いたい。ただのロマンです。

いざ実行してみるサンプルコード ...

最近、Llama3.2が出てLLM界隈はじめ、AI界隈全体で話題となっています。

今回はLlama3.2を試そうと動かしたときに躓いた、ちょっとしたポイントについてお話します。

Llama3.2を試すサンプルコード