1.swarm是区块区块什么意思?
2.a16z前合伙人:从架构维度看Web2.0与Web3.0应用之别
3.群体学习Swarm Learning (SL)
4.Swarm设计架构之覆盖网络(overlay networks)
swarm是什么意思?
Swarm是指一群动物或昆虫在共同的目的下集群行动的现象。在计算机领域中,链s链官Swarm是源码一种基于大规模分布式计算模型的技术,可以将不同的分析计算机节点组成集群,实现更快速、网源更高效的区块区块asp20000源码计算处理。
Swarm技术最初由Ethereum开发团队所提出,链s链官并在其分布式系统平台上使用。源码Swarm充分利用了区块链技术的分析分布性、安全性和容错性,网源集群化的区块区块方式提高了数据存储和传输的效率。Swarm节点可以在任何有网络连接的链s链官地方运行,这使得Swarm作为一种数据储存和分发的源码新型方式越来越受到关注。同时Swarm还具有更高的分析安全性和隐私性,能够有效的网源保护用户数据不被窃取或篡改。
总之,Swarm作为一种新型的分布式计算技术,有效提高了计算效率,优化数据存储和传输过程。随着区块链技术的不断发展和应用,Swarm未来将有更广泛的应用前景。
az前合伙人:从架构维度看Web2.0与Web3.0应用之别
Web 3.0 应用程序与 Web 2.0 应用程序架构存在显著差异。Web 2.0 应用如 Medium,需要中心化服务器存储数据和后端逻辑,并通过互联网浏览器传递给用户。卫星能源码头反之,Web 3.0 应用通过区块链技术构建,去除了中间层,消除了中心化数据库和网站服务器。应用程序状态由去中心化的状态机构成,维护在互联网上的匿名节点中。这种架构使得 Web 3.0 应用程序更加分散、安全和透明。
区块链技术是构建 Web 3.0 应用的关键,以太坊是其中的典型代表,它作为全球可以参与维护的、点对点的确定性状态机,被比喻为“世界电脑”。以太坊状态机上的状态更改由网络中的遵循共识规则的节点控制,确保其去中心化。数据只能写入区块链,且无法更新现有数据,强调了数据的不可变性和安全性。
智能合约是运行在以太坊区块链上的程序,用于定义状态变化背后的逻辑,通常使用 Solidity 或 Vyper等高级语言编写。智能合约代码存储在区块链上,任何人都可以检查网络上所有智能合约的应用逻辑,确保透明性和可审计性。vb大软件源码
以太坊虚拟机执行智能合约定义的逻辑并处理状态机上的状态变化。虚拟机不理解高阶语言,需要将这些语言编译成字节码,以便执行。
前端与智能合约的交互比简单描述的要复杂。当前端应用程序想要与区块链交互时,需要通过提供商连接到区块链。提供商执行 JSON-RPC 规范,确保前端应用程序与区块链有一组统一的方法进行交互。要写入状态,需要在将交易提交到区块链前,使用私钥对交易进行签名。Metamask是一个工具,可让应用程序轻松处理密钥管理和交易签名。
区块链存储数据虽然快捷,但价格昂贵。为了解决这一问题,可以使用去中心化链下存储方案,如 IPFS 或 Swarm。IPFS 是一个分布式文件系统,数据分布式存储在 P2P 网络中,而 Filecoin 系统激励世界各地的节点存储和检索这些数据。Swarm 类似于 IPFS,但其激励系统内置在以太坊智能合约中。rk3399+源码
在区块链上存储智能合约和数据意味着更高的成本,因此真正的去中心化应用程序倾向于使用去中心化存储方案,如 IPFS 或 Swarm。前端代码不存储在区块链上,而是可以存储在如 AWS 等中心化服务上,但这样做会受到中心化的制约。使用去中心化存储方案确保了真正的去中心化。
在区块链上查询数据主要通过智能合约事件和 The Graph 等工具实现。智能合约事件允许前端代码监听和处理事件,而 The Graph 提供了一个链下数据索引方案,方便在以太坊上查询数据,几乎不会出现延迟。
以太坊面临可扩展性问题,但一些解决方案如 Polygon、Optimistic Rollup 和 zkRollup 正在开发中。这些 L2 扩容方案将交易执行放在链下进行,仅在链上存储交易数据,实现扩容,同时加快交易速度、降低成本,并与以太坊主链进行通信。
工具和框架如 Hardhat 为以太坊开发者提供了便利,包括本地网络部署、插件生态系统、轻量级gui源码调试工具等,提升开发体验。随着工具的不断进化,Web 3.0 应用程序的构建将变得更加高效和便捷。
群体学习Swarm Learning (SL)
如今,在一些疾病的诊断领域,AI的准确率已经超过了医生。准确的诊断结果背后,是建立在海量数据集上的机器学习。然而,实际可用于训练的医疗数据非常分散,将这些数据集合起来会引发对数据所有权、隐私性、保密性、安全性的担忧,甚至数据垄断的威胁。
在这样的背景下,常用的方法如联邦学习,可以解决上述的一些问题,但该模型的参数由“中央协调员”处理,造成了“权力”的集中,且它的星形架构也导致容错性降低。群体学习的引入在一定程度上可以解决这些问题。
群体学习与传统的联邦学习(CS架构)不同,它没有中央参数服务器,不需要将参数上传到中央服务器进行聚合。数据和模型参数都在本地储存,拥有更高的隐私性以及安全性。群体学习将去中心化硬件基础设施、分布式机器学习与区块链结合,从而安全加入成员节点、动态选举领导者、聚合模型参数。
联邦学习是一种分布式机器学习技术,其核心思想是通过在多个拥有本地数据的数据源之间进行分布式模型训练,在不需要交换本地个体或样本数据的前提下,仅通过交换模型参数或中间结果的方式,构建基于虚拟融合数据下的全局模型,从而实现数据隐私保护和数据共享计算的平衡。
联邦学习按架构划分为:中心化联邦学习(中央服务器/中央协调方)的CS架构,去中心化的联邦学习(P2P对等网络)架构和委员会架构。
区块链是一种链式结构,将数据块遵循时间顺序组合并与密码学、共识机制、智能合同等技术结合所形成的一种去中心化的公共账簿技术。具有如下特点:数据难篡改、去中心化、可追溯、去信任化。
群体学习(SL)框架主要组成部分包括:Swarm边缘节点、Swarm协调器节点、Swarm网络节点、Swarm学习命令接口节点、LS节点(许可证服务器节点)以及SPIFFE SPIRE服务器节点。在群体学习中,各节点之间权利对等,有较高的安全性和容错性,在分布式的节点上进行训练,动态选取领导者,新节点通过区块链智能合约注册,获取模型,并进行本地模型训练,直到满足定义的同步条件(SI:同步时间)。接下来,通过Swarm应用程序编程接口(API)交换模型参数,并在开始新一轮训练之前,合并创建一个更新参数的最新模型。
其中区块链仅记录模型状态以及训练进度等元数据,不记录模型参数;在每一个SI结束时,其中一个SL节点被区块链选为领导者,领导者从每个节点收集局部模型,并通过平均它们的训练参数更新全局模型。
个人认为SL模型是基于区块链的联邦学习(BFL)的一种新的范式。群体学习中的区块链部分还是不甚了解,希望有大佬可以指教。
群体学习的研究仍在进行中,对于群体学习中的区块链部分,还有许多问题值得探讨。本人对此领域的研究尚未深入,有任何问题欢迎大家积极指出,一起交流!
参考文献:
[1] Jialiang Han, Yun Ma, Yudong Han, Ying Zhang and Gang Huang. “Demystifying Swarm Learning: A New Paradigm of Blockchain-based Decentralized Federated Learning” ().
[2] Stefanie Warnat-Herresthal et al. “Swarm Learning for decentralized and confidential clinical machine learning..” ().
[3] 登上Nature封面的群体学习,无需中央协调员,比联邦学习更优秀(baijiahao.baidu.com/s...)
[4] 联邦学习的架构(爱吃牛油果的璐璐:联邦学习的架构)
Swarm设计架构之覆盖网络(overlay networks)
Swarm,这个为数字主权社会构建未来基础设施的关键角色,其底层设计的秘密逐渐显现。让我们深入探讨Swarm设计架构中的核心部分——覆盖网络,这是一个支撑Swarm独特功能的关键组件。
Swarm的目标是为Web3.0时代的数字世界提供无许可的存储和通信基础设施,如同Web1.0向Web2.0的演进,Swarm的出现是基于对现有网络模式的革新和提升。它不仅提供了低级别的API,让开发者能够构建复杂应用,还配备了一整套用于3.0开发的工具和数据库,让普通浏览器也能无缝接入Swarm的分布式网络,挑战传统WWW的权威。
Swarm的底层架构分为四个层次,每个层次都承担着至关重要的角色。首先,是基础的P2P网络,它如同区块链的基石,对于非技术人员来说,可以理解为BT协议的一种实现;对于开发者来说,深入研究其技术细节将更佳。接下来,是协议覆盖网络,它以固定大小的数据块为载体,构建出高效的信息传输和定位系统,这是Swarm的核心所在。
第二层覆盖网络采用了Keccak算法和Kademlia拓扑结构,通过Po概念量化节点间的关系,确保了网络的稳定性和安全性。更重要的是,这个覆盖地址不仅标识节点,还能决定数据的价值和存储位置,对数据的管理和保护起到了关键作用。Kademlia算法的选择虽然非主流,但Swarm团队有其深思熟虑的理由,仍在不断优化中。
在存储方面,Swarm采用固定大小的不可变数据块,区分普通块和特殊块,前者减小延迟,后者承载更多数据但需诚信机制。检索机制上,Swarm实现了完全匿名,不仅保护了用户隐私,还通过反向检索机制解决垃圾邮件等问题,同时引入激励机制,保持网络的活跃和健康发展。
然而,节点之间的数据转发并非免费服务,对未被邀请的数据块发送会有费用,过度行为甚至可能导致服务拒绝或黑名单惩罚。这体现了Swarm对网络秩序和资源管理的严谨态度。
关于Swarm的激励设计,我们将在后续篇章中揭示更多令人兴奋的细节。每一个设计都旨在推动Swarm网络的繁荣,为Web3.0世界注入活力。让我们共同期待Swarm在覆盖网络的探索中,如何引领未来的数字世界走向新的高度。