来看个神奇的项目——mergekit

这个 python 项目可以将多个大模型合并为一个,比如你有一个模型A,感觉它写作特别好,然后有个模型B,感觉它写代码很好,那么用这个 mergekit 就能将两个模型合并为一个。除此之外,在模型之间迁移能力也是可以的。

另外这个项目是可以用CPU合并的,当然用GPU加速也可 ​​​https://mapp.api.weibo.cn/fx/f77c66154092f8f5487ab8857b52ce18.html
阿里的移动端多模态大模型APP(完全开源且使用移动端本地的模型哈)——MNN 又更新了!现在支持 Qwen-2.5-omni-3b 和 7b 了。

这个APP搭配多模态模型可以支持 文本到文本、图像到文本、音频到文本和文本到图像生成。并且速度也可以。想学习移动端大模型应用开发的可以参考试试

地址: ​​​https://mapp.api.weibo.cn/fx/edfde1bba695aef0e30b8f2a05aa3ee1.html
BiliFilter —— 基于本地LLM的 Bilibili 弹幕过滤器
github.com/ddddng/BiliFilter/
特性
本地运行:所有推理均在本地完成
多种分类:色情低俗、恶意刷屏、人身攻击、垃圾广告、引战、剧透、错误科普、正常、未分类
即装即用:无需修改网页源代码,脚本自动 Hook 弹幕
可调策略:保留 / 隐藏指定分 ​​​https://mapp.api.weibo.cn/fx/a315098bb18369f7ac2714c8d31484b4.html GitHub - ddddng/BiliFilter
Back to Top