YuleZhang's Blog

1. 先用一句人话理解 JIT

JIT（Just-In-Time，即时编译）就是：不急着在软件发布前把所有代码都编好，而是等程序运行、拿到一部分真实信息后，再编出适合这次任务的代码。

代码最终需要变成处理器能够执行的指令。AOT 和 JIT 的核心区别首先是编译发生在什么时候，而不是谁一定更快：

AOT（提前编译）：软件发布前就编好，好比提前印好说明书，用户拿到就能照着执行。
JIT（即时编译）：运行到某段代码时才编译，好比遇到具体问题再现场翻译；既可能多花一次编译时间，也有机会利用已经知道的设备和输入条件做优化。

需要先纠正一个容易误会的地方：AOT 不等于通用低性能，JIT 也不等于自动最优。 AOT 完全可以事先编译许多精心调优的 kernel，运行时再挑一个；JIT 也可能只是在运行时编出一份普通代码。真正影响性能的，是编译器掌握了哪些信息、生成了什么代码，以及选择了什么执行策略。

想边读边试，可以直接运行文中配套的两个小实验：JIT 第一次为什么慢 和 GEMM 为什么要按 shape 选配置。只需 Python 就能跑通demo，不要求 NVIDIA GPU；第3节还提供了可选的 Triton/CUDA 版本。

本周16、17两天参加了高通cdsp的培训，第一天主要以llm/sd大模型和sm8850为主，第二天主要以dsp和一些工具为主。

sm8850

本文为android架构扫盲，主要是为了理清一些android开发中的基本概念

经常迷惑于各种前端技术，有了js/html/css三件套，但又有React/Angualar/Vue等各种技术，新技术框架层出不穷，搞得人晕头转向，今天咱们就来捋一捋。

​

Chatgpt使用体验

自打用chatgpt已经两三个月了，作为追热点的一员，能明显感觉到它的社区、生态、相关研究正在迅速铺开。

在研究上，我有两个比较印象深刻的进展

1. 浙大和微软联合推出HuggingGPT，能够自动分析AI任务所涉及到的模型，然后去HuggingFace上自动调用。
2. Github上开源的实验室项目Auto-GPT、AgentGPT与HuggingGPT不同之处在于，它将AI任务交给Chatgpt来进行拆解，并转化成一个个子任务，类似于okr，然后再通过chrome搜索或者selenium流量等方式整合资源。属于在线搜索+推理的GPT，功能强大。

秋招

秋招可选岗位

远程服务调用(Remote Procedure Call, RPC)出现的目的就是为了让计算机能够与调用本地方法一样去调用远程方法，这是早在1990年之前定义分布式运算环境(Distributed Computing Environment, DCE)中就提出的问题。尽管"调用远程方法"和"调用本地方法"仅两字之差，但若要兼顾简单、透明、性能、正确、鲁棒、一致等特点，两者就不可同日而语了。在RPC中会涉及到网络请求，带来了很多新的问题，例如远程服务在哪里（服务发现）、有多少个（负载均衡），网络出现分区、超时或者服务出错了怎么办（熔断、隔离、降级），方法或参数的返回结果如何表示（序列化协议），信息如何传输（传输协议），服务权限如何管理（认证、授权），如何保证通信安全（网络安全层）等。

进程间通信(Inter-Process Communication, IPC)

RPC定义

所有RPC协议无论怎样设计，主要都是解决以下三个基本问题

如何表示数据

这里的数据包括传递给方法的参数以及方法执行后的返回值。有效地做法就是将交互双方所涉及到的数据转化为某种事先约定好的中立数据流格式来进行传输，同时将数据流转换回不同语言中对应的数据类型来使用。在RPC中称之为序列化和反序列化，过程如下图所示：

近期想找一份关于后台开发的实习，全力准备了一个半月的算法，当前此前也有零碎的刷题。然后就直接投简历了，收到腾讯和字节两家面试通知，面试问题如下。

腾讯

腾讯面经，部门主要是做AI算法的呈现

说明：本文基于慕课《玩转算法面试 从真题到思维全面提升算法思维》，并加入了一些自己的理解。

递归与回溯框架

对于递归本身，可以结合二叉树的性质去理解，不是本文讨论的重点。本文讨论了更一般的递归问题和回溯的算法思想，这些问题在本质上也属于树形问题。顾名思义，对于问题解的讨论可以用一颗树来进行表示。来看一些例题

本周工作

• TGAN生成X-ray图片
• GenPU生成X-ray图片
• 设计TGen-NU模型，并尝试生成X-ray图片
• 解决归一化问题^[1]
• 基本完成TGen-NU的生成任务，但仍存在不稳定、不收敛问题^[2]
• 查阅学习GAN的公式推导、扩展资料如WGAN、DCGAN等
• 新思路：把MPS融入到GenPU/TGen-NU模型中