分类: AI大模型

  • AI大模型应用开发中的ANP协议:原理、优势与展望

    摘要:本文全面介绍了ANP协议,探讨了其在AI大模型应用开发中的作用及其相较于MCP协议的优势,解析了其标准流程,并给出了一些具体的代码示例。此外,本文还讨论了ANP协议的优势应用场景,预测了其未来可能面临的挑战及发展趋势,最后进行了总结。

    1 什么是ANP协议

    ANP(Agent Network Protocol)是一个开源智能体网络协议框架[1],由杭州比特智元 CEO、智能体通信协议 ANP 作者常高伟开源[2]。该协议旨在实现不同智能体之间的去中心化协作,构建一个更加开放和互操作性的智能体互联网。ANP协议的核心是通过P2P架构和语义网技术,为智能体提供高效的数据交换和协作机制。其设计灵感来源于Web 3.0的技术理念,希望能够打破现有智能体之间的数据孤岛,实现真正的互联互通[3]

    (更多…)
  • 模型上下文协议(MCP)技术介绍与应用展望

    随着AI技术的快速发展,大型语言模型(LLM)与外部数据源和工具的交互需求日益迫切。在最初的提示词工程阶段,我们可能会人工编写、从数据库中筛选或者使用工具检索可能需要的信息,再手动粘贴到提示词 prompt 中。随着我们要解决的问题越来越复杂,手工把信息引入到 prompt 中会变得越来越困难[1]

    此时,如AI柠檬博主上一篇博客文章提到的 Function Call 便被引入了进来。该机制允许大模型在需要时调用用户预先定义的函数来获取数据或执行操作,显著提升了自动化水平。而这一过程本质上是由大模型输出一个json格式内容,在字段指定参数值中告诉你应该调用什么函数,以及传入什么函数入参来实现。

    但工具函数调用这种传统API接口存在局限性,如兼容性差、安全隐患等,进而催生了模型上下文协议(Model Context Protocol, MCP)的诞生。这项由Anthropic公司于2024年11月推出的开放标准,被誉为“AI领域的USB-C接口”,旨在为AI应用与外部资源提供统一的通信框架[2]

    (更多…)
  • Function Call讲解:AI大模型走向实用化的关键一步

    什么是Function Calling

    在AI大模型的上下文中,”function calling” 是指AI模型能够直接调用预先定义好的函数来执行特定的任务,而不是仅仅基于文本生成来解决问题。这种能力使得AI可以主动地使用外部工具和资源来解决超出模型本身知识范围的问题,从而使AI的应用更加广泛和深入。

    (更多…)
  • LLaMA:一个基于大语言模型的可本地私有化部署的聊天机器人

    最近,ChatGPT非常地火热,人们无处不在谈论它。众所周知,ChatGPT是一个基于深度学习的算法模型,是语言模型的一种,具有目前为止最接近人类水平的对话风格。不过OpenAI选择将其闭源,外部仅可通过API接口调用的方式使用它。因此,出于网络信息安全考量,中国的工信部、各个公司等均禁止使用OpenAI的ChatGPT,而OpenAI也不对中国大陆地区提供服务。

    不过GitHub上近期出现了基于大语言模型的开源项目LLaMA,可以本地私有化部署使用。其算法模型效果接近ChatGPT的水平,且支持GPU加速推理,不联网也可以正常使用,无需担心信息泄露的风险。

    (更多…)