MCP 與 gRPC：人工智慧代理與大型語言模型如何連接工具與數據

內容介紹

提問

• 

  在ChatGPT中開啟

  就此頁面提問

• 

  在Claude中開啟

  就此頁面提問

關鍵信息

• 由大型語言模型（LLMs）驅動的人工智慧代理在與外部服務溝通時面臨挑戰，例如預訂航班或查詢數據庫的任務。
• MCP（模型上下文協議）是由Anthropic在2024年底推出的，專門為人工智慧代理設計，以連接大型語言模型（LLMs）到工具和數據。
• gRPC（谷歌遠程過程調用）是一個著名的RPC框架，用於連接微服務，但最初不是為了人工智慧應用而設計的。
• 這兩種協議都解決了與大型語言模型（LLMs）的上下文窗口限制相關的挑戰，因為這些模型無法一次儲存所有必要的信息。
• MCP 允許大型語言模型動態查詢外部系統，而不是試圖將所有數據適應到上下文窗口中。
• MCP包括原始元素，例如工具、資源和帶有自然語言描述的提示，以便LLMs能夠輕鬆理解。
• 在MCP中，發現功能內建於協議中，使AI代理能夠迅速了解可用的能力。
• gRPC 提供如高效的二進制序列化、雙向串流和更快的性能等功能，但提供的是結構性資訊，而不是大型語言模型（LLMs）所需的語義上下文。
• 在 gRPC 實現中，通常需要一個適配器層來將自然語言查詢轉換為 AI 代理的具體 RPC 調用。
• MCP 使用 JSON-RPC 2.0 進行通信，這是可讀的，而 gRPC 則使用協議緩衝區進行二進制通信，從而實現更快速的消息解析。
• MCP 最適合用於 AI 發現，而 gRPC 在高吞吐量工作負載中在速度和效率方面表現出色。