分类目录归档:人工智能

测试和分析auto-gpt0.3

上一次测试auto-gpt0.2.2,发现1:不停地重复在网上找和下载文件,结果还是没有能力把指定文件下载下来。
2:我手动下载了文件,让它读取分析,发现读了之后马上报错自动退出了。说是提交给openai的token超字数了。。。

今天我又配置了当前最新的stable 0.3 auto-gpt,还是测试同样的任务,让它整理《红楼梦》中的小说人物关系图谱。
首先,发现下载文件还是下载不了。跟0.2.2很像。
没办法,我手动下载了文件给它。
然后,发现它执行代码一定要在docker运行。我查了代码,修改成直接可以运行了。
又然后,我发现它一直想执行还没保存的代码文件,我通过对话提示它先写好代码文件再执行文件。以后每次要执行代码我发现都要做这样的提示。显然里面有个逻辑问题。也许是execute_python_file命令应该对应一个新的文件,而execute_code应该创建一个新的文件,接的参数是代码内容,而不是文件名。操作的时候让代理先保存代码文件,然后执行。
又又然后,我发现在访问代码时,openai.error.APIConnectionError,不知道是不是网络环境问题,遇到这个问题程序就中止了。我修改了代码,让它遇到问题后重试。
最后,还是发现了tokens遇长的问题,我不知道哪里的代码又不严谨。。。到这里,愉快的一下午就快结束了。

看来这个任务还是很难完成。

目前看来,auto-gpt还十分不成熟,原因是,1里面的代码里的bugs非常多;2系统有几个如google查询,读写文件,执行代码等功能模块,但这几个模块的调动很不协调,操作很不连贯,它们的组合经常十分生疏,如同请一个有理论,但完全没有实践基础的几个技术人员一起完成一个大任务。

显然,在人工智能发展的路上,这些问题都会被解决。但现在而言,从效率角度看,在实际工作中用auto-gpt还是比较早的。auto-gpt在设计的时候,是用来完成通用任务的。我感觉现在来说,还需要很多的调整和磨合。让人工智能做不同的事,本身要学习经验。而让人工智能做重复的事,这可我感觉现阶段应该使用prompt+特定的任务代码+gpt的形式可能更实在一些。

发表在 人工智能 | 标签为 , | 评论关闭

中文LLaMA Alpaca大语言模型在text-generation-webui和llama.cpp上的部署

中文LLaMA模型和指令精调的Alpaca大模型在text-generation-webui和llama.cpp上的部署
LLaMA是facebook的meta公司放出来的大语言模型,这个模型的中文能力非常差。Chinese-LLaMA-Alpaca在原版LLaMA的基础上扩充了中文词表并使用了中文数据进行二次预训练,进一步提升了中文基础语义理解能力。目前已开源的模型版本:7B(标准版、Plus版)、13B(标准版)。这些版本可以在16G,甚至可以在8G内存的个人电脑上部署。似乎不用显卡。今天我在16G内存的个人笔记上部署了。这是记录。

由于笔记本电脑只有16G,所以我选择是LLaMA/Alpaca Plus版本(7B)版本。7B的模型占内存13GB,8bit量化后是7.8GB。

模型下载与合并

部署需要原版LLaMA模型和中文LLaMA模型Chinese-LLaMA-Plus-7B与中文Alpaca模型Chinese-Alpaca-Plus-7B。三个模型要合并成一个模型。
页面也提供了Colab在线合并的方式,在线合并的话就不用下载上面的三个模型,只要下载合并好的模型就可以了。

继续阅读

发表在 人工智能 | 标签为 , , , | 评论关闭

将小爱同学(小米AI音箱)接入Home Assistant(基于红外遥控器)

小米音箱(小爱同学)做的不错,但是目前功能上还是有很多限制,比如不能启动电脑。Home assistant是一个开放的智能家居平台,集成非常多的模块,比如Wake on LAN模块就可以实现通过网线唤醒电脑的功能。可惜目前不能通过小米音箱直接连接Home Assistant。好在小爱同学兼容自家的万能遥控器,我们想到了把Home Assistant设备变成一个遥控终端,通过一个红外万能遥控器和一个红外接收器做为一个桥接中介,实现小米音箱间接控制Home Assistant平台的目的。本文参考了这个教程

需要的东西

运行Home Assistant的设备(电脑、NAS、树莓派等,我用的是树莓派2代)
红外接收器(我使用的是一个通用USB接收器,树莓派用户可以DIY一个)
小米(创米)万能红外线遥控器
小米AI音箱

给Home Assistant设备添加红外遥控接收功能

将红外接收器连接到home assistant设备上。确认红外设备存在,如

pi@raspberrypi:~ $ ls /dev/lirc0
/dev/lirc0

安装红外线收发lirc程序

pi@raspberrypi:~ $ sudo apt-get install lirc liblircclient-dev

测试红外线接收功能正常:
继续阅读

发表在 人工智能 | 标签为 , , , , , , | 一条评论