これらのツールを使ってChatGPTのメモリを強化する方法

Name: Matt Popovic

Updated on 2023/8/17

人工知能の世界において、過去の相互作用から学び、覚える能力は、ゲームチェンジャーです。特にChatGPTのようなAIチャットボットでは、メモリが相互作用の質を形成する上で重要な役割を果たします。 ChatGPTのフレームワークに長期的なメモリを導入したことで、その会話能力が拡大し、ユーザーとの接触方法も変えることができました。この新機能は、通常「ChatGPTメモリ」と呼ばれ、AIがよりパーソナライズされ、コンテキストに沿った意味のある応答を提供できるようにしました。

ChatGPTメモリは、先進的な言語モデルと革新的なメモリ管理技術を組み合わせた力のある証明です。ChatGPTのすでに高度な能力をさらに高めることにかかっています。長期的なメモリを活用することで、ChatGPTは過去の会話の詳細を覚え、ユーザーの好みに適応し、単に関連性があるだけでなく、コンテキスト的に正確な応答を提供できるようになりました。このブレークスルーは、AIチャットボットの将来に重大な影響を与え、より知的で魅力的で人間らしい相互作用を可能にするものです。

言うまでもなく、ChatGPTメモリとは何かを見ていきましょう。

ChatGPTメモリとは何で、なぜそれが必要か？

前の会話から言語モデルが理解し、反応するために使用できる情報の量であるコンテキスト長は、強力なLLMベースのアプリケーションを作成するためにおける重要な側面です。それは、アドバイザーが読んだ本の数、実用的なアドバイスを提供するために引っ張ることができる本の数に似ています。ただし、図書館が広大であっても、無限ではありません。

ChatGPTやGPT-4などのAIモデルのコンテキスト長の制限を回避するために、モデルが使用できる外部のメモリソースを接続することができます。これにより、transformerベースのLLMモデルで可能となる効果的なコンテキスト長が大幅に向上します。

チャットGPTメモリプロジェクト (opens in a new tab)は、このアプローチの優れた例を提供しています。これは、Redisのベクトルデータベースを使用して、ChatGPTがセッションごとにユーザーの履歴的な相互作用をキャッシュし、現在のコンテキストに基づいた適応的なプロンプト作成メカニズムを提供するインテリジェントなメモリ管理方法を作成することを目的としています。

GPT-4の登場により、ChatGPTのコンテキスト長は、4,096トークンから32,768トークンに増加しました。OpenAIのAPIを使用する場合、ChatGPTまたはGPT-4のコンテキスト長に応じて計算されるコストがあります。したがって、より多くのトークンを使用して長い文書を処理するか、比較的小さいプロンプトを使用してコストを最小化するかのトレードオフがあります。

ただし、実際には、強力なアプリケーションには大量のコンテキスト長が必要です。それが以下のソリューションになるものです。

MemoryGPTを使用してChatGPTのメモリを作成する

長期的なメモリを持つChatGPTを作成することを目的としたMemoryGPTプロジェクトは、あなたが言うことを覚え、それに基づいて会話をパーソナライズすることを目的としています。このアプローチは、現在のデフォルトの動作よりも適応的であり、過去の履歴から現在のメッセージに関連する直前のk個のメッセージのみを取得するため、より多くの関連コンテキストをプロンプトに追加し、トークン数を使い果たすことはありません。 MemoryGPTは、ヒューリスティックバッファメモリタイプのトークン制限制約を克服する適応的なメモリを提供します。

RedisとMemoryGPTを使用してChatGPTメモリを実装する

GitHubのチャットGPTメモリプロジェクト (opens in a new tab)には、Redisを使用してChatGPTの長期的なメモリを実装する方法についての詳細なガイドが記載されています。以下は簡略化した手順のバージョンです。

環境をセットアップする: OpenAI APIキーを取得し、Redisデータストアをセットアップする必要があります。ここ (opens in a new tab)で無料のRedisデータストアを作成することができます。
依存関係をインストールする: プロジェクトはpoetryパッケ

必要なモジュールのインポート

from chatgpt_memory.environment import OPENAI_API_KEY, REDIS_HOST, REDIS_PASSWORD, REDIS_PORT from chatgpt_memory.datastore import RedisDataStoreConfig, RedisDataStore from chatgpt_memory.llm_client import ChatGPTClient, ChatGPTConfig, EmbeddingConfig, EmbeddingClient from chatgpt_memory.memory import MemoryManager

OpenAI APIキーを使用してEmbeddingConfigオブジェクトをインスタンス化

embedding_config = EmbeddingConfig(api_key=OPENAI_API_KEY)

EmbeddingConfigオブジェクトを使用してEmbeddingClientオブジェクトをインスタンス化

embed_client = EmbeddingClient(config=embedding_config)

Redis接続の詳細を含むRedisDataStoreConfigオブジェクトをインスタンス化

redis_datastore_config = RedisDataStoreConfig( host=REDIS_HOST, port=REDIS_PORT, password=REDIS_PASSWORD, )

RedisDataStoreConfigオブジェクトを使用してRedisDataStoreオブジェクトをインスタンス化

redis_datastore = RedisDataStore(config=redis_datastore_config)

RedisDataStoreオブジェクトとEmbeddingClientオブジェクトを使用してMemoryManagerオブジェクトをインスタンス化

memory_manager = MemoryManager(datastore=redis_datastore, embed_client=embed_client, topk=1)

OpenAI APIキーをverboseをTrueに設定してChatGPTConfigオブジェクトをインスタンス化

chat_gpt_config = ChatGPTConfig(api_key=OPENAI_API_KEY, verbose=True)

ChatGPTConfigオブジェクトとMemoryManagerオブジェクトを使用してChatGPTClientオブジェクトをインスタンス化

chat_gpt_client = ChatGPTClient( config=chat_gpt_config, memory_manager=memory_manager )

conversation_idをNoneに初期化する

conversation_id = None

チャットボットのループを開始する

while True:

ユーザーからの入力を促す

user_message = input("\n メッセージを入力してください：")

ChatGPTClientオブジェクトを使用して応答を生成する

response = chat_gpt_client.converse(message=user_message, conversation_id=conversation_id)

応答からconversation_idを更新する

conversation_id = response.conversation_id

チャットボットによって生成された応答を出力する

print(response.chat_gpt_answer) MemoryGPT (opens in a new tab)は、ChatGPT内の長期記憶概念を実用化したもので、過去の会話の詳細を記憶し、自分の好みに合わせて動作を調整することができます。MemoryGPTは特に、コーチングエージェント、アドバイスやサポートの友人、生産性や最新テクノロジーを楽しんで限界まで押し上げたい好奇心ある人々にとって非常に役立ちます。

FAQ

長期記憶は、ChatGPTの機能をどのように拡張しますか？

長期記憶により、ChatGPTは前回の会話の文脈を記憶し、より個人的かつ関連性のある応答を提供できるようになります。AIモデルの文脈長の制限を克服し、会話をより魅力的かつ意味のあるものにします。

Redisの役割は、ChatGPTの長期記憶を実装する際に何ですか？

Redisは、セッションごとにユーザーの過去の相互作用を保存するためのベクターデータベースとして使用されます。これにより、ChatGPTはこれらの相互作用をキャッシュし、現在の文脈に基づいて適応型のプロンプトを作成するインテリジェントなメモリ管理方法を提供します。

会話履歴のベクトル化が、ChatGPTに文脈を提供するのにどのように役立ちますか？

会話履歴のベクトル化により、テキストデータがAIモデルが理解できる形式に変換されます。これらのベクトルは、会話履歴の意味を表し、モデルに関連する文脈を提供するために使用されます。これにより、適切な応答を生成する能力が向上します。