启动webui服务

使用lmdeploy启动一个api_server

1 2	conda activate agent_camp3 lmdeploy serve api_server /share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat --model-name internlm2_5-7b-chat

另开一个终端，使用stremlit启动agent_web应用

1
2
3

cd /root/agent_camp3/lagent
conda activate agent_camp3
streamlit run examples/internlm2_agent_web_demo.py

本地powershell建立ssh连接，进行端口映射

Q&A

遇到的问题：

1	ModuleNotFoundError: No module named 'griffe.enumerations

解决方法：

1 2	Due to griffe's recent 1.x release, the `griffe.enumerations` module has been removed, resulting in a break change, which can be resolved by `pip install griffe==0.48`.

修改模型名称以及模型IP地址

启动streamlit的web应用如下：

修改红框内的内容

终端的反馈：

PS:很是可惜，没有找到我想要的内容[1706.03762] Attention Is All You Need (arxiv.org)

自定义工具

进入lagent_web_demo的py文件中

添加&修改代码：

from lagent.actions import ActionExecutor, ArxivSearch, IPythonInterpreter
+ from lagent.actions.magicmaker import MagicMaker
from lagent.agents.internlm2_agent import INTERPRETER_CN, META_CN, PLUGIN_CN, Internlm2Agent, Internlm2Protocol

...
        action_list = [
            ArxivSearch(),
+             MagicMaker(),
        ]