NVIDIAがローカルPC向けAIチャットボット「Chat with RTX」を発表

NVIDIAは、個人のPCでオフラインで利用できる新しいAIチャットボット機能「Chat with RTX」を発表しました。このツールは、ユーザーが自分のコンテンツでチャットボットをパーソナライズできるように設計されています。

Chat with RTXの特徴とシステム要件

Chat with RTXは、Windowsプラットフォーム上で無料でダウンロード可能です。このツールを実行するために必要なシステム要件には、以下が含まれます：

• プラットフォーム：Windows
• GPU：NVIDIA GeForce RTX 30または40シリーズ、またはNVIDIA RTX AmpereまたはAda世代GPU（最低8GBのVRAM）
• RAM：16GB以上
• OS：Windows 11
• ドライバー：535.11以降

Chat with RTXは、retrieval-augmented generation (RAG)、NVIDIA TensorRT-LLMソフトウェア、およびNVIDIA RTXアクセラレーションを活用して、ローカルのGeForce搭載Windows PCに生成AI機能を提供します。

Chat with RTXの利用方法

Chat with RTXを使用すると、ユーザーはPC上のローカルファイルをデータセットとして大規模言語モデルに簡単に接続できます。これにより、迅速で文脈に関連する回答を得るためのクエリが可能になります。例えば、ユーザーは「ラスベガスでパートナーがおすすめしたレストランは？」と尋ねることができ、Chat with RTXは指定されたローカルファイルをスキャンして、文脈を含む回答を提供します。

このツールは、.txt、.pdf、.doc/.docx、.xmlなどのさまざまなファイル形式をサポートしており、YouTubeプレイリストのURLを提供することで、プレイリスト内の動画のトランスクリプトを読み込み、その内容に関するクエリを可能にします。

Chat with RTXの利点

Chat with RTXを使用すると、ユーザーはクラウドベースのLLMサービスに依存せず、第三者とデータを共有することなく、インターネット接続なしで機密データをローカルPCで処理できます。NVIDIAは、このツールが開発者と消費者の両方にとって、データとプライバシーに関する懸念を解消する企業版を提供することを目指しています。

まとめとCGPTのコメント

「Chat with RTX」の発表は、個人のプライバシーを保護しながら生成AIの能力を活用したいと考えるユーザーにとって大きな進歩です。NVIDIAのこの新しいツールは、セキュリティを重視する同時代のニーズに応え、ローカルでのAI活用の新たな可能性を開きます。これにより、ユーザーは自身のデータを完全にコントロール下に置きつつ、生成AIのパワーを活用できるようになります。

参照元:NVIDIA unveils ChatGPT-rival ‘Chat with RTX’, an AI chatbot that runs locally on your PC