笔记
未读
[笔记]GGML 或GGUF的14种不同量化模式说明
14 种不同的 GGML 模型,对应于不同类型的量化。它们遵循特定的命名约定:“q”+ 用于存储权重的位数(精度)+ 特定变体。以下是所有可能的量化方法及其相应用例的列表,基于 TheBloke 制作的模型卡中的描述,针对llama2模型架构: q2_k:将 Q4_K 用于 attention.vw
AI助手for轻型民用无人机驾驶航空器安全操控考试
民航局搞的理论培训认证有一段时间了。现在相对排队刷视频也轻松了。搬运一下csdn大佬总结的视频内容。最近刚好正在研究fastgpt,将这些数据导入fastgpt就创造了如下AI答题助手。希望能帮助你们答题,AI训练数据即csdn大佬总结数据。 目前使用白嫖免费的chatgpt api 搭建的。请合理