首先要注意下这个配置文件：
/etc/php/8.3/fpm/conf.d/10-opcache.ini
确保：
zend_extension=opcache.so
[opcache]
opcache.enable=1
opcache.enable_cli=1
opcache.jit=1255
opcache.jit_buffer_size=200M
; 其他 OPCache 配置…
重启 apache2 和 php8.3-fpm
sudo service php8.3-fpm restart
sudo service apache2 restart
如果还是不行，最好是 kill 所有的 php-fpm 进程。
在Ubuntu下使用apt安装MySQL后，root用户的密码默认是空的。这是因为在安装过程中，MySQL会自动为root用户设置一个随机密码，并将其存储在/etc/mysql/debian.cnf文件中[1]。
要解决这个问题，你可以按照以下步骤操作：
sudo cat /etc/mysql/debian.cnf这将显示默认的随机账户和密码，你可以使用这组账户和密码登录MySQL[1]。
mysql -uroot -p 这将要求你输入密码，直接按回车键即可登录，因为默认密码为空。use mysql;ALTER USER 'root'@'localhost' IDENTIFIED WITH mysql_native_password BY 'your_new_password'; 将your_new_password替换为你想要设置的新密码。FLUSH PRIVILEGES;exit; 现在你可以使用新密码登录root用户了。请注意，如果你使用的是MySQL 8.0版本，修改root用户密码的命令略有不同，请参考[1]。
Learn more:
RTMP协议（Real-Time Messaging Protocol）是一种用于在互联网上流式传输音频、视频和数据的通信协议[1]。最初由Macromedia开发为Flash Player和Flash Communication Server之间的流媒体传输的专有协议，后来被Adobe（收购了Macromedia）发布了该协议的不完整版本供公众使用[1]。
RTMP协议有多个变种：
RTMP的基本操作是基于TCP的，它维持持久连接并允许低延迟通信。为了平稳地传输流并尽可能多地传输信息，它将流分割成片段，并且片段的大小在客户端和服务器之间动态协商。有时，片段的大小保持不变；音频数据的默认片段大小为64字节，视频数据和大多数其他数据类型的默认片段大小为128字节。来自不同流的片段可以交错和多路复用到单个连接上。由于较长的数据块，该协议每个片段仅携带一个字节的头部，因此开销非常小。然而，在实践中，通常不会交错单个片段。相反，交错和多路复用是在数据包级别上完成的，以确保每个通道满足其带宽、延迟和其他服务质量要求。以这种方式交错的数据包被视为不可分割的，不会在片段级别上交错[1]。
RTMP定义了几个虚拟通道，可以在这些通道上发送和接收数据包，并且这些通道彼此独立运行。例如，有一个用于处理RPC请求和响应的通道，一个用于视频流数据的通道，一个用于音频流数据的通道，一个用于带外控制消息（片段大小协商等）的通道等。在典型的RTMP会话期间，多个通道可能同时处于活动状态。当对RTMP数据进行编码时，会生成一个数据包头部。数据包头部指定了要发送的通道的ID、生成时间戳（如果需要）以及数据包有效载荷的大小。然后，在将其发送到连接上之前，将其实际有效载荷内容（媒体数据）根据当前协商的片段大小进行分段。数据包头部本身永远不会被分段，其大小不计入数据包的第一个片段中的数据。换句话说，只有实际的数据包有效载荷（媒体数据）会被分段[1]。
在更高的层次上，RTMP封装了MP3或AAC音频和FLV1视频多媒体流，并可以使用Action Message Format进行远程过程调用（RPC）。所需的任何RPC服务都是异步进行的，使用单个客户端/服务器请求/响应模型，因此不需要实时通信[2]。
RTMP会话可以使用以下两种方法进行加密：
在RTMP Tunneled（RTMPT）中，RTMP数据通过HTTP进行封装和交换，客户端（媒体播放器）的消息被发送到服务器上的80端口（HTTP的默认端口）[1]。RTMPT中的消息由于HTTP头部的原因比等效的非隧道化RTMP消息要大，但在客户端位于阻止非HTTP和非HTTPS出站流量的防火墙后，RTMPT可能有助于使用RTMP的场景，否则将无法使用非隧道化的RTMP。
RTMP协议的数据包结构如下：
Learn more:
RTP（Real-time Transport Protocol）是一种用于实时流媒体传输的协议。它是一种面向数据报的协议，用于在IP网络上传输音频和视频等实时数据。RTP协议通常与RTCP（Real-time Transport Control Protocol）一起使用，RTCP用于传输控制信息，例如流媒体的质量反馈和同步信息。
RTP协议的特点和功能包括：
RTP协议在实时流媒体传输中起着重要的作用，它可以与其他协议结合使用，例如RTSP（Real-time Streaming Protocol）用于控制流媒体的会话和传输。
Learn more:
近年来，外资撤离中国的现象引起了广泛关注。外资的流动不仅影响着中国股市的表现，也对整个中国经济环境产生了深远的影响。本文将通过数据和事实，详细探讨外资撤离的现状、原因以及我们应对的策略。
根据中金的报告，2023年第三季度外资管理机构持有的中资股规模回落至6701亿美元，环比下滑3.9%。这一数据表明，外资对中国市场的信心正在减弱。事实上，2021年外资持有中资股规模达到高峰，但现在的情况显然不如当时。
根据中国外汇管理局的数据，自1998年以来，中国一直享有外国直接投资（FDI）净流入的优势。然而，如今这一趋势也发生了逆转。2023年，中国的FDI净流入首次出现了下降，甚至转为负值。这一变化无疑是一个警示信号。
美元募资的困难是另一个值得关注的问题。根据Preqin的数据显示，2023年聚焦于投资中国的风险投资和私募的外资仅筹集了57亿美元，而在2021年这一数字高达480亿美元，降幅几乎达到90%。
企业家和投资人是最敏感的，他们需要看到明确的积极信号才会重新投入。以下是一些可能的积极信号：
外资撤离中国的现象虽然令人担忧，但我们也需要看到积极的一面。市场环境的改善和政策的调整有望吸引外资的回流。正如一位优秀群友所说：
“一级市场是站在创新最前端的人，投资应当考虑行业和企业发展规律，和对应的合理的估值逻辑。不能因为秋天有霜降，春天就不种地了。”
我们需要保持乐观，继续努力，等待春天的到来。
参考文献
近日，多位网友在社交媒体上爆料称，微软中国区Azure云平台的AI团队为主的数百名员工收到公司邮件，询问他们是否愿意迁移至其他地区工作。目的地包括美国、澳大利亚、爱尔兰等国家。公司将负责亲属签证问题，员工需要在6月7日前给出答复。本文将探讨这一消息背后的原因及其可能带来的影响。
对于这一消息，微软方面回应称，公司有一小部分员工得到可以选择国际轮岗的机会。员工可以选择接受轮岗，或者继续在现在的岗位工作。微软在运营管理全球业务的过程中，一直有向员工提供内部轮岗机会的机制。
然而，一些员工对此表示困惑。一位微软员工对记者表示，这是5月14日刚出的消息，一些员工突然收到有关征询迁移至海外工作邮件，要求在6月7日前回答去还是不去。“大家都很懵”，此前并没有感受到任何预兆，尤其是拖家带口的员工，“需要考虑的事情更多”。有同事认为这是一种“变相裁员”，虽然可以选择不去，但也因此对留在公司的未来产生了担忧。
据了解，微软中国C+AI的ML团队可以转到美国西雅图，Azure团队转到澳洲，DevDiv（开发平台事业部）则维持现状。已经有员工的家属表示，家属所在的小组被整个迁至澳大利亚，线上开会时“会上有300多号人”，涉及北京、上海和苏州的员工。两个人商量一整晚到凌晨三点，也没得出什么结论。
另有接近微软人士表示，Azure ML和Azure Core（基础设施）这两个组中与AI业务相关的数百人获得“打包”出国的机会，目的地包括美国、加拿大、澳大利亚和新西兰，是指定的（目的地），并不能随便挑选。
微软在全球范围内进行业务整合，尤其是AI和云计算业务。这种整合有助于公司在全球范围内更有效地配置资源，提升业务协同效应。
微软一直以来都有向员工提供内部轮岗机会的机制。通过国际轮岗，员工可以获得更广泛的工作经验和视野，有助于个人职业发展。
根据国际咨询机构Gartner发布的最新云计算市场追踪数据报告，2023年，微软Azure在亚太地区云计算IaaS市场排名第三，份额为16.1%。阿里云排名第一，市场份额为22.2%，亚马逊AWS排名第二，份额为16.5%。微软在亚太市场面临激烈的竞争压力，可能希望通过业务调整来应对市场挑战。
员工突然收到迁移通知，且需要在短时间内做出决定，这无疑会给员工带来巨大的心理压力。尤其是有家庭的员工，需要考虑更多因素，如孩子的教育、配偶的工作等。
这种大规模的迁移计划可能会影响公司内部的稳定性。一些员工可能会选择离职，而不是接受迁移，导致团队的不稳定和人才流失。
微软在亚太地区的云计算市场份额已经处于劣势，此次迁移计划可能会进一步影响公司在这一地区的业务发展。如何平衡全球业务整合与区域市场竞争，是微软需要仔细考量的问题。
微软中国员工迁移海外的消息引发了广泛关注和讨论。这一计划背后有多重原因，包括全球业务整合、国际轮岗机制以及应对亚太市场竞争压力等。然而，这一计划也给员工带来了巨大的心理压力，并可能影响公司内部的稳定性和区域市场的业务发展。在未来的执行过程中，如何平衡这些因素，将是微软面临的重要挑战。
在这个人工智能飞速发展的时代，大语言模型（LLMs）如同一位语言大师，解决了各种自然语言处理、复杂推理和情感分析任务。然而，这些“语言大师”往往需要极高的内存和计算资源，这让普通硬件平台望尘莫及。为了让更多人能使用LLMs，我们提出了一种基于LLaMA2-7B的高效神经架构搜索（NAS）方法，简称LLAMA-NAS。
大语言模型（LLMs）在处理自然语言和复杂推理任务上表现出了非凡的能力，但它们就像一头巨兽，消耗着大量的内存和计算资源。LLaMA2-7B，作为一款参数量达到7B的LLM，尽管功能强大，但其庞大的身躯让普通硬件平台难以承受。
为了减轻LLMs的重量，我们提出了一种基于一击NAS（One-shot NAS）的方法。我们只对LLaMA2-7B进行一次微调，然后应用基于遗传算法的搜索，找到更小、更高效的网络架构。结果表明，在某些标准基准任务上，我们成功地将模型大小减少了1.5倍，并在几乎无损精度的情况下提升了1.3倍的吞吐量。
我们的优化方法借鉴了InstaTune，这是一种新颖的一击NAS方法。在微调LLaMA2-7B时，我们创建了一个超网络，并在微调阶段嵌入了NAS过程。这不仅节省了计算资源，还确保了子网络能够针对具体任务进行优化。
我们使用了LINAS算法，这是一种结合NSGA-II搜索和网络性能预测器的方法，可以高效地识别Pareto最优的网络配置。通过在真实数据上迭代评估子网络，LINAS算法能够预测大量子网络的性能，并选择最有前途的进行进一步评估。
在微调LLaMA2-7B后，我们定义了一组允许的参数值，并在搜索过程中使用这些参数。搜索空间包括了网络层数和每个MLP模块的中间大小。
在AI2推理挑战（ARC）上，我们发现了几个比预训练的LLaMA2-7B更高效的子网络。例如，一个子网络在保持相同精度的情况下，体积减少了1.1倍，而另一个同等大小的子网络精度提升了1.9%。
在大规模多任务语言理解（MMLU）任务中，我们的子网络不仅在模型大小上优于预训练的LLaMA2-7B，还在推理速度上有显著提升。例如，一个子网络在精度提升1.1%的同时，体积减少了1.5倍，速度提升了1.3倍。
在TruthfulQA任务上，我们的子网络表现更为出色。一个子网络在体积减少1.6倍的情况下，精度提升了3.6%。
在WinoGrande任务上，我们的子网络也表现不俗。例如，一个子网络在保持相同精度的情况下，体积减少了1.1倍，而另一个同等大小的子网络精度提升了1.4%。
我们的研究展示了一种高效的方法，通过一击NAS来减小和优化大语言模型的架构。我们的方法不仅在性能上优于剪枝和稀疏化技术，还能与量化技术结合，进一步减少模型的大小和复杂度。随着对大语言模型的兴趣不断增长，我们的工作为创建可在更便宜、更普及的硬件平台上使用的LLMs提供了一条可行之路。
希望这篇文章能够让您对LLAMA-NAS的方法和成果有一个清晰的了解，并在轻松愉快的阅读中学到新的知识。如果您有任何问题或需要进一步的信息，请随时联系我们。
如果你觉得大语言模型（LLMs）像个贪吃的巨兽，那你就猜对了。这些能处理自然语言、复杂推理、情感分析等任务的模型，虽然能力非凡，但对内存和计算资源的“胃口”也惊人。以至于大部分硬件平台根本承受不起这顿“大餐”。为了让LLMs变得更“苗条”，我们提出了一种基于LLaMA2-7B的高效神经架构搜索方法——LLAMA-NAS。
我们的方法核心是一次性神经架构搜索（one-shot NAS），这个听起来就很酷对吧？具体来说，我们只对LLaMA2-7B模型进行一次微调，然后用遗传算法（genetic algorithm）来搜索更小、更高效的网络架构。结果显示，对于某些标准基准任务，预训练的LLaMA2-7B模型不仅“体型”庞大，而且“吃”得也多。通过我们的“减肥”计划，我们成功地将模型大小减少了1.5倍，处理速度提高了1.3倍，而准确度几乎没有损失。
我们借鉴了InstaTune的方法，将NAS嵌入到微调阶段，使模型架构更具弹性，能够适应不同的任务、数据集和计算资源。在这过程中，我们并没有进行强教师或超级网络的知识蒸馏，主要是为了节省计算资源。
在搜索过程中，我们使用了LINAS算法，这个名字听起来像某种神秘的武器。事实上，它确实很厉害，能够在多目标设置中优化模型大小和准确性。我们定义了一组允许的参数值，搜索空间包含了大约1.3 × 10^10种可能性。
首先，我们将方法应用于AI2推理挑战（ARC）任务，结果显示几个子网络架构在准确率和模型大小上都有明显提升。例如，一个子网络在准确率不变的情况下，模型大小减少了1.1倍。
我们的方法在大规模多任务语言理解（MMLU）任务上也表现出色。多个子网络在准确率提升的同时，模型大小减少了1.5倍，处理速度提高了1.3倍。
在真诚QA任务中，我们发现预训练的LLaMA2-7B模型明显过度参数化。通过我们的方法，找到的子网络在准确率提高3.6%的同时，模型大小减少了1.6倍。WinoGrande任务的结果也类似，我们的子网络在准确率不变的情况下，模型大小减少了1.1倍。
与LLM-Pruner和SliceGPT相比，我们的方法不仅在模型大小和准确率上更有优势，而且不需要额外的恢复微调步骤。
我们还将INT8量化应用于搜索到的子网络，结果显示，量化后的子网络在准确率几乎不变的情况下，模型大小进一步减少。例如，一个子网络在量化后大小减少了2.5倍，准确率几乎没有损失。
通过我们的LLAMA-NAS方法，我们不仅找到了更小、更高效的网络架构，还比剪枝和稀疏化技术更有效、更高效。而且，我们的方法不需要任何专用的软件内核或硬件，能够与其他量化方法无缝结合。随着对大语言模型的兴趣日益增加，我们的工作为自动创建能够在更便宜、更易获得的硬件平台上运行的网络提供了一条可行的道路。
希望这篇文章能让你对我们的工作有更深入的了解，同时也希望你能像看完这篇文章一样开心。如果你对大语言模型的优化感兴趣，不妨试试我们的LLAMA-NAS方法，让你的模型也来次“瘦身”吧！
Retrieval Augmented Generation，简称RAG，是一个能让大型语言模型（LLM）在回答问题时表现更佳的工具。RAG的工作原理是通过从现有文档中检索相关信息来为生成的文本提供背景支持。听起来是不是很厉害？但问题是，如果文档只提供部分信息或者与问题背景的连接不明显，那么RAG该怎么办？这篇文章就来回答这两个核心问题。
我们介绍一种基于图神经网络（GNN）的方法，叫做G-RAG。这个方法在RAG的检索器和阅读器之间引入了一个重排序器。G-RAG不仅考虑了文档之间的连接，还利用了语义信息（通过抽象意义表示图，AMR）来提供上下文感知的排序器。G-RAG不仅表现优异，还比最先进的方法更省计算资源。
在开放领域问答（ODQA）中，RAG虽然能成功地检索到相关文档，但不能充分利用文档间的连接。这会导致模型忽视那些包含答案但与问题背景连接不明显的文档。通过重排序过程，我们能更有效地过滤检索到的文档，提高阅读过程的效果。
目前的重排序器虽然表现不错，但仍有一些问题。首先，大多数现有工作未能捕捉到不同检索文档之间的重要连接。其次，尽管AMR图提高了对复杂语义的理解，但将冗余的AMR信息集成到预训练语言模型中会导致过拟合和计算时间增加。最后，现有方法利用的预训练语言模型在快速发展的LLM时代显得不足。
为了应对这些挑战，我们提出了一种基于文档图的方法，每个节点代表一个文档，每条边代表两个文档之间存在共同概念。我们将不同文档之间的连接信息纳入边特征，并通过消息传递机制更新边特征。同时，我们在节点特征中加入了关键的AMR信息，避免了冗余信息的引入。
我们在两个代表性的ODQA数据集上进行了实验：自然问题（NQ）和TriviaQA（TQA）。结果显示，基于图的策略（如GCN和G-RAG）在各种评估指标上表现出色。特别是G-RAG-RL模型，通过使用排序损失函数，进一步提升了识别正面文档的能力。
我们的G-RAG模型在现有ODQA方法中表现出色，通过利用文档之间的隐性连接和战略性地整合AMR信息，显著提高了识别有价值信息的能力。尽管预训练的LLM在重排序任务中的表现可能不尽如人意，但对其进行微调可能极大地提升RAG系统的表现。未来的研究方向包括设计更复杂的模型来更好地处理AMR信息，以及探索更高级的方法来解决LLM产生的排名分数中的平局问题。
大家好，今天我将带您走进一个神秘的领域——Caddy 2 服务器与 PHP-FPM 部署的 WordPress 的卡顿现象。为什么我们辛辛苦苦搭建的网站会卡顿？让我们一探究竟。
首先，让我们简单介绍一下Caddy 2和PHP-FPM。Caddy 2 是一款现代化的开源Web服务器，因其自动HTTPS配置和简洁的配置文件赢得了广泛的好评。PHP-FPM（PHP FastCGI Process Manager）则是一个专为处理PHP请求优化的进程管理器，常用于提高网站性能。
当我们发现WordPress网站卡顿，首要怀疑的就是服务器资源不足。检查CPU使用率和内存占用情况是否过高。如果是的话，可能需要升级服务器配置。
网络带宽不足同样会造成网站卡顿。使用工具如 ping 和 traceroute 检查网络延迟和丢包率。如果网络状况不佳，可以尝试联系服务提供商解决。
WordPress的数据库性能也至关重要。使用 SHOW FULL PROCESSLIST; 命令检查MySQL数据库是否有慢查询，或者配置查询缓存来提高性能。
Caddy 2 默认的配置已经相当不错，但我们可以进一步优化：
{
auto_https off
http_port 80
https_port 443
}
example.com {
root * /var/www/html
php_fastcgi unix//run/php/php7.4-fpm.sock
file_server
encode gzip
}PHP-FPM 的配置文件通常位于 /etc/php/7.4/fpm/pool.d/www.conf：
pm = dynamic
pm.max_children = 50
pm.start_servers = 5
pm.min_spare_servers = 5
pm.max_spare_servers = 35
pm.max_requests = 500尽量减少并优化插件，特别是那些影响性能的插件。使用插件如 Query Monitor 来监控性能瓶颈。
使用缓存插件如 W3 Total Cache 或 WP Super Cache，可以显著提高页面加载速度。
图像通常是页面加载时间的主要因素之一。使用插件如 Smush 来优化图像大小。
将静态资源（如图片、CSS、JS）托管到CDN（内容分发网络）上，可以显著提高加载速度，减轻服务器负担。
通过以上措施，我们可以有效解决Caddy 2 + PHP-FPM 部署的WordPress网站卡顿问题。当然，实际情况可能千差万别，您需要根据具体情况进行调整和优化。希望这篇文章对您有所帮助！
参考文献：