Efficient Deep Learning 高效深度学习 - 知乎 - 知乎专栏
随着硬件计算能力的不断提升，深度学习能够在各种任务上获得相当好的性能（Performance）。推进各个任务性能上限固然是令人振奋的方向，但深度学习的资源消耗也越来越大。高效深度学习（Efficient Deep Learning）…
首页-高效智能计算与学习
高效智能计算与学习团队的主要方向是通过研究与设计大规模神经网络的学习、高效计算与相应的硬件架构设计理论与方法，使无人系统依靠自主学习具备智能感知、规划和决策能力。
高性能计算：深入了解高性能计算的原理和技术 - 知乎
2023年12月11日 · 1.背景介绍 高性能计算（High Performance Computing，HPC）是一种利用并行计算技术来解决复杂问题的计算方法。它通过将问题分解为多个子问题，并在多个处理器上同时执行这些子问题，从而实现计算速度的提高。高性…
# 高性能计算学习路线 - GitHub Pages
#高性能计算学习路线 # 入门指南 # Easy：一两星期就够了！ C/C++ 语言; 多线程与锁（std::thread, pthread） SIMD 指令的使用; OpenMP 的使用; 习题：使用多线程（可以使用 openmp，std::thread, pthread 中的任意一种）和 SIMD 优化以下程序
线性化注意力综述：突破Softmax二次复杂度瓶颈的高效计算方案
2024年12月31日 · 大型语言模型在各个领域都展现出了卓越的性能，但其核心组件之一——softmax注意力机制在计算资源消耗方面存在显著局限性。本文将深入探讨如何通过替代方案实现...
漫谈高性能计算与性能优化：计算 - 知乎 - 知乎专栏
之前写了一篇《漫谈高性能计算与性能优化：访存》。有挺多读者看过了，也有一些老师提出了自己的观点。这里面一个核心的问题就是， 什么才是性能优化的关键。针对这个问题，其实很难有一个统一的答案。对于不同的…
神经网络高效计算--高效智能计算与学习 - ia
神经网络高效计算指在深度学习任务中，通过优化计算过程和资源利用来提高计算效率和性能。 由于深度学习模型通常具有大量的参数和复杂的计算需求，高效计算对于加速训练和推理过程、减少计算资源和能源消耗非常重要。
深度神经网络高效计算：大模型轻量化原理与关键技术 (豆瓣)
本书围绕深度学习模型计算，重点从深度学习模型优化、算法软件加速、硬件架构设计等方面展开介绍，主要包括低秩分解、剪枝、量化、知识蒸馏、精简网络设计与搜索、深度神经网络高效训练、卷积神经网络高效计算、大模型高效计算、神经网络加速器设计 ...
深度学习高效计算与处理器设计 - 机器之心
2018年6月21日 · 目前 深度学习 面临的三个挑战促使我们从两个方面去思考，一是网络模型本身优化的问题，二是设计面向 深度学习 专用芯片来实现 神经网络 的高效计算。下面分别从这两个方面进行阐述。
高性能计算解决方案_HPC_科学计算-华为云
高性能计算云解决方案（HPC Cloud）是一种高效、可靠、灵活、安全的计算服务，能够为工业设计仿真、数字建模模拟、海量数据处理等场景提供卓越的计算服务，帮助客户降低TCO，缩短产品上市周期， 提升企业产品竞争力