APPLICATION 如何设计大规模AI系统 训练一个机器学习模型是一回事,也许在基准数据集上达到最先进的准确性。但将其部署,使其为数百万用户服务,处理TB级的数据,并可靠地全天候运行则是完全不同的挑战。
APPLICATION 推理/微调速度对比:CPU vs. GPU 上周末,我有机会测试了多个GPU,包括最先进的Nvidia H100、RTX 5090、RTX 4090等。本文将总结它们在推理和微调任务上的性能。
APPLICATION 用C++构建激光雷达障碍物检测器 这个项目专注于处理城市驾驶场景中的激光雷达点云数据。但在深入实现之前,我会先介绍激光雷达的工作原理及其重要性,以及它如何解决相机和雷达等其他传感器的局限性。
APPLICATION 失控:自主AI与社会工程攻击 网络犯罪分子在新技术方面很少落后。事实上,他们往往是最早尝试新兴技术的人之一。他们没有合法组织所受的限制。他们可以快速行动、承担风险,并且无需考虑伦理或法律框架即可运作。
APPLICATION 从提示到产品:与AI助手共事 我想带你了解我最近的一个构建过程——一个简单但功能齐全的项目,展示了我的完整工作流程。通过这些步骤,你会清楚地看到我是如何将与AI的对话转化为实际产品的。
APPLICATION AI Agent的代码沙盒 沙盒是一个隔离环境,用于运行不受信任的代码,并具有严格定义的安全边界。当LLM或AI Agents生成代码时,后台会创建一个沙盒,代码上传、执行并返回其结果。
APPLICATION 大规模代码库的RAG实践 在这篇博客中,我将分享qodo(前身为Codium)如何通过构建一个优先考虑代码质量和完整性的生成式AI编码平台来解决RAG与具有有限上下文窗口的LLMs和大型复杂代码库之间的差距。