本周从周一开始学习cs231n的相关内容,看完了231n的课程介绍,背景介绍,图像分类的KNN和SVM算法,完成了作业中assignment1的KNN部分的代码(附件),思考总结了KNN的实现原理:即将原本的training data直接作为input读入,获取其中每一个pixel的值,然后对每一个输入的test data,遍历所有的training data,将training data所生成的像素值矩阵与原本的矩阵相减,得到一个样本的距离矩阵,这个距离可以是L1距离,也可是L2距离,不同的问

之前学习的KNN算法属于直接将所有的训练图片数据化,根据图片的像素值进行判断,最简单的NN算法是用与待判断图片的差距最小(距离最近)的那张图片的类别当做此图片的类别,我们不难看到,1NN算法的正确性很差,相较于完全随机的10%的正确率,其正确率也不过只有20%左右,正确率低.我们用KNN算法则是用与其临近的K张图图片进行"投票",得票最多的类别即为此图片的类别,可以看到,KNN算法有效的排除了某些噪声的干扰,但是主体的思路仍然是直接进行比较,此算法的缺点在于时间复杂度高,即每次判断一张

本周完成了SVM课程笔记的阅读,包括SVM的基本原理以及SVM的优化过程,以及实现了SVM的两种损失函数(svm以及softmax)的线性分类器,以及学习了反向传播以及神经网络的初步.其中:svm在测试集上的准确率为37.4%,softmax损失函数在测试集上的准确率为35.6%,相较于KNN的27.4%提升约为36.5%及29.9%,提升幅度相对较大,此外SVM相较于KNN来说,时间性能更佳:之前学习的KNN算法属于直接将所有的训练图片数据化,根据图片的像素值进行判断,最简单的NN算法是用与待

在前面我们学习了SVM损失函数和softmax损失函数,我们优化权重矩阵w的具体思路便是让损失函数最小化,还记得损失函数的定义吗? 没错,损失函数长这样,其中,Wj为权重矩阵的第j个列向量,xi为第i个train image reshape得到的列向量(其中的每一个维度为Xi的所对应的特征或者说属性),wx的意义为Xi在第j个类上的得分,Wyi正确的类别所对应的权重矩阵,那么显然后续的乘积为正确类别的得分.这个函数对于同类/不同类的梯度我们通过微积分的方法可以很轻松的得到,即只需要简单的进行求导

这一周主要焦点在于实现反向传播和全连接两层神经网络的具体代码以及书写博客记录课程学习的心得体会,目前完成了反向传播的具体代码以及相应博客的书写,完成了assignment1中figure的SVM版提取特征的线性分类器.反向传播能够很好的解决我们的映射函数特别复杂,无法手动求解梯度进行计算时的情况:反向传播的原理是链式法则: 所以我们在当前节点的梯度值是下游传递过来的梯度值乘以当前节点的梯度值.更加具体的思路和具体的实现过程在博客https://www.cnblogs.com/Lbmttw/p/1

两层全连接神经网络的内容要比想象中的多很多,代码量也很多,在cs231n只用了15分钟讲解的东西我用了一周半的时间才完全的消化理解,这周终于完成了全连接神经网络博客的书写https://www.cnblogs.com/Lbmttw/p/16858127.html,两层全连接神经网络的结构是输入层-----隐藏层-----激活函数层-----输出层,其实本质我们要寻求的东西是一样的,都是要寻找分数函数,并且要求损失函数最小,不过我们原本是将整个输入层经过一层处理得到分数函数,不过在神经网络中,我们

本周主要完成了assignment2中的connected_layer部分的代码,跟assignment1中的two_layer_net相比,虽然整体思路都是实现全连接的网络,但是connect_layer可以实现任意多层的全连接神经网络,代码相较于两层全连接,大同小异,不同之处在于需要利用循环结构去实现每次的affine_forward以及参数相对应的初始化和存储.这周没有学习新的cs231n的相关内容,因为大部分时间都放在了学习书写文献综述上. 本周完成了NeRF文献综述,发现写文献综述需要

最近需要写一篇关于NeRF的文献综述,看了看网上有关NeRF的所有教程和笔记,感觉对于初入门的初学者并不是很友好,在这里开个坑,准备更新NeRF的知识和相关的论文 综述如下: 神经辐射场在视图合成和三维重建方法中的应用 计算机科学与技术 2113615 张铭徐 摘  要: 神经辐射场方法(NeRF)作为计算机视觉领域的一种全新的视觉合成技术,自ECCV2020由Mildenhall等人首次提出后,在相关领域迅速掀起了一股热潮:NeRF实现了复杂场景的高度真实感的视图合成,在机器人,城市地图,导航

本周彻底完成了CNN的全部内容,包括CNN的原理,代码实现等.CNN是一种神经网络的framework,跟connected_layer相比,更加侧重于能够保持原来的空间结构不变:我们输入的图片是一个n*n*3的numpy数组,其中n是图片的分辨率,3是RGB颜色空间的数目,如果是全连接层,我们需要将输入的照片reshape成一个向量,例如如果输入照片为32*32*3,那么我们就需要将图片reshape成3072*1的向量,然后再经过权重矩阵的映射得到最终的分数列向量:这么做无疑是将图片的空间结

论文精读<Generative Adversarial Nets> 导言:生成模型是目前爆火的一个研究方向,据Microsoft对于ChatGPT-4的研究称"ChatGPT-4可以看成是通用型人工智能(AGI)的早期版本:其独特的推理能力和理解语义能力迅速在全球掀起了大模型研究的一股热潮.不仅仅是NLP领域,CV领域也有相应的工作,例如meta研究发布的<Segment Anything>这篇论文,也是图像分割领域的里程碑,可以做到不经过训练就能够对未知的样本达到非常好

人工智能导论--口罩佩戴检测详解(附带MTCNN论文精读) 一.问题重述 随着人类的科技不断进步,病毒也在随之更新迭代:在19年席卷全球的新冠肺炎疫情给人们的生活带来了极大的灾难,造成了无数的人因此失去生命,同时也给高速增长的经济按下了暂停键.防止这种传染疾病的最常见的办法就是佩戴口罩:在人员密集的共同场合,如果只让工作人员来监督口罩佩戴检测的问题显然是极为困难的,所以我们考虑利用CV中深度学习技术来实现口罩佩戴检测. 在本次实验中,我们一共需要完成两个任务目标,首先是针对给定图片进行检测,检测

数据库SQL介绍 Def:SQL是一种极其高效的数据库系统语言:可以实现对数据库中的数据进行增删改查等操作 增加操作:使用create命令: 可以create table 可以create View 可以create Index 可以create trigger/procedure insert 用于增加单独一行 如果我想单独向某个表中增加一列(增加一个属性):Alter Table 表名 add 属性名 属性数据类型 +各种约束; 删除操作:使用drop命令 相应的,也可以drop table

在前面我们详细的讨论过softmax损失函数以及SVM损失函数,以及应用了支持向量机进行图片分类的任务,不妨先复习一下支持向量机相关的思想内核:支持向量机想要寻求一组映射关系f(x)=wx+b,先将每一个图片的所有像素值都转换成矩阵,然后寻求一个权重矩阵w,使得f(x)=wx+b最后的得分矩阵(或向量)对应了每一个测试数据在每一个类别上的具体分数,最后的决策依据倾向于选择分数最高的类别.我们最后要讨论的便是如何寻找最优的权重矩阵w,我们便引入了一个概念叫做损失函数. 首先是svm损失函数,其思想

在前面我们讨论了神经网络初步,学习了神经网络中最基础的部分:全连接层,并且实现了搭建两层全连接实现图片分类的问题,达到了50%左右的正确率,全连接层的主要思想是构建出一个映射函数,使得前一层的所有输入,都对于该层的输出产生相应的贡献,换句话说,是前一层的所有输入都参与到我们神经元的映射函数中进行计算,最终得到具体的分数向量或是对下一层新的输入.在全连接层之间,我们引入了非线性的激活函数进行约束,使最终的结果能够实现非线性的功能,一共有若干种激活函数,例如ReLU,Leaky ReLU,Tanh,

一.问题重述 强化学习是机器学习中重要的学习方法之一,与监督学习和非监督学习不同,强化学习并不依赖于数据,并不是数据驱动的学习方法,其旨在与发挥智能体(Agent)的主观能动性,在当前的状态(state)下,通过与环境的交互,通过对应的策略,采用对应的行动(action),获得一定的奖赏(reward),通过奖赏来决定自己下一步的状态. 强化学习的几个重要的组分是: 环境,即智能体所处的外来环境,环境可以提供给智能体对应的状态信息,并且基于智能体一定的奖赏或者乘法. 智能体:智能体是强化学习中的

Linux为什么要有大页内存?为什么DPDK要求必须要设置大页内存?这都是由系统架构决定的,系统架构发展到现在,又是在原来的基础上一点点演变的.一开始为了解决一个问题,大家设计了一个很好的方案,随着事物的发展,发现无法满足需求,就在原来的基础上改进,慢慢的变成了现在的样子.不过技术革新一直在进行,包括现在. 物理内存 Physical address 物理内存就是电脑的内存条,上面的每一个方块就是存储芯片,芯片中还有颗粒.访问数据的时候,会使用各种技术,尽可能从多个内存条,每个内存条的多个存储芯

jQuery 是一个 JavaScript 函数库. jQuery 是一个轻量级的"写的少,做的多"的 JavaScript 库. jQuery 库包含以下功能: HTML 元素选取 HTML 元素操作 CSS 操作 HTML 事件函数 JavaScript 特效和动画 HTML DOM 遍历和修改 AJAX Utilities 提示: 除此之外,jQuery 还提供了大量的插件. jQuery 是一个 JavaScript 库. jQuery 极大地简化了 JavaScript 编程

全局异常处理原理 # 对于前端来讲,后端即便报错,也要返回统一的格式,前端便于处理 {code:999,msg:'系统异常,请联系系统管理员'} # 只要三大认证,视图类的方法出了异常,都会执行一个函数: rest_framework.views import exception_handler # drf只要出了异常就会执行 这是drf的配置文件中的 'EXCEPTION_HANDLER': 'rest_framework.views.exception_handler' # 但是源码是不能改

参考地址:看一遍就理解:MVCC原理详解 - 掘金 (juejin.cn) 1. 相关数据库知识点回顾 1.1 什么是数据库事务,为什么要有事务 事务,由一个有限的数据库操作序列构成,这些操作要么全部执行,要么全部不执行,是一个不可分割的工作单位. 假如A转账给B 100 元,先从A的账户里扣除 100 元,再在 B 的账户上加上 100 元.如果扣完A的100元后,还没来得及给B加上,银行系统异常了,最后导致A的余额减少了,B的余额却没有增加.所以就需要事务,将A的钱回滚回去,就是这么简单.

git上传对象文件错误解决方案 ​ 时隔一个星期, 当我再次完成开发之后, 准备将代码上传, 却出现了一个上传代码的错误, 记录一下错误和解决方案 解决方案: 运行git fsck --full (base) ifeng@ubuntu:~/Desktop/luffycity$ git fsck --full error: 对象文件 .git/objects/c9/e590416bbe286dc32a17ddf14670ebb52e4520 为空 error: 对象文件 .git/objects/