个人技术分享

TransformerConv

维度不匹配只能是atten和hidden1的维度不匹配了，那attention和hidden1到底是什么？这里的hidden1对应着的是上一篇文章中forward的输出结果，也就是out，具体out的是什么？我感觉，我是不是学代码天生比别人慢一拍，就是其实很简单的函数也要花好久才能明白。之前在跑别人代码的时候，遇到了hidden这里的维度不匹配，就返回去找维度。然后return_attention_weight设置的是True。这的hidden1到底是什么？

30分钟吃掉 Pytorch 转 onnx

节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学.针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。PyTorch 是一个用于机器学习的开源深度学习框架，而ONNX（Open Neural Network Exchange）是一个用于表示深度学习模型的开放式格式。ONNX是一个跨平台的格式，支持多种深度学习框架，包括PyTorch、TensorFlow等。

Pytorch--Hooks For Module

在 PyTorch 中，register_module_forward_hook 是一个方法，用于向模型的模块注册前向传播钩子（forward hook）。在 PyTorch 中，register_module_backward_hook 是一个方法，用于向模型的模块注册反向传播钩子（backward hook）。在 PyTorch 中，register_module_forward_pre_hook 是一个方法，用于向模型的模块注册前向传播预钩子（forward pre-hook）。

改进YOLO系列 | YOLOv5/v7 引入 Dynamic Snake Convolution | 动态蛇形卷积

YOLO系列目标检测算法以其速度和精度著称，但对于细长目标例如血管、道路等，其性能仍有提升空间。动态蛇形卷积（DSC）是YOLOv5/v7中引入的一种改进，旨在更好地处理细长目标。DSC的核心是使用控制点序列来变形卷积核。# 根据目标框生成控制点序列# 将目标框转换为控制点序列]))DSC根据控制点序列变形卷积核。# 根据控制点序列变形卷积核DSC层继承自nn.Module类，并实现了DSC操作。# 生成控制点序列# 变形卷积核# DSC操作return out。

pytorch数学操作

使用 torch.bitwise_not() 函数对 x 进行位非操作，得到的结果张量 y 的元素将是对应位置上的二进制取反结果。需要注意的是，位与操作将每个元素的二进制表示的对应位进行逻辑与操作，只有当对应位都为 1 时，结果位才为 1，否则为 0。在 PyTorch 中，torch.clamp() 函数用于对张量进行截断操作，将张量中的元素限制在指定范围内。它返回一个新的张量，其中的元素是输入张量中对应元素的向下取整结果。它返回一个新的张量，其中的元素是输入张量中对应元素的向上取整结果。

什么是PyTorch？PyTorch在生产环境中的部署策略

PyTorch的设计哲学是简单、灵活和高效。它提供了一个动态计算图（Dynamic Computation Graph），也称为自动微分系统，这使得研究人员能够快速实验和迭代模型设计。PyTorch的动态图特性使得它在开发过程中非常直观和灵活，因为它允许在运行时修改图形。在PyTorch中，你可以通过继承类来定义自己的模型。你需要实现__init__方法来初始化模型的层，以及forward方法来定义前向传播。