Algostorm： 算法风暴社交操纵、趋势劫持僵尸网络与政府对策 - E454
"当你看着手机时， 你可能会觉得自己在控制着手机， 在按下按钮。但实际上， 手机是一个更大系统的一部分， 就像一个巨大的天气系统。在屏幕的另一端， 不是你在按键， 而是工程师和业务团队精心设计的算法在影响你的反应。我个人对此的反思是，， 尽管可以获得大量的权力、信息和知识， 但我还是会问自己：：" 这种趋势或情绪是否会影响我的生活？这种趋势或情绪会影响我的生活吗？一年后我还会记得这个事件或趋势吗？这些关键问题有助于在对任何事情做出反应之前创造一个停顿的时刻 "。- Brave 东南亚科技播客主持人 Jeremy au
"Algostorms 不仅仅是旨在操纵你的参与的算法， 它们还是以前所未有的方式进行互动的全球社会的策展人和守门人。人类在生物学上倾向于在小圈子内交流-朋友、家人、部落、村庄。只是在过去的 50 年里， 我们才能与世界上的每一个人进行交流。当你在网上发布信息时， 你的信息有可能传播到数百万或数十亿人的手中。这些算法对这种互动进行按摩和塑造， 向个人反映社会其他人的想法向个人反映社会其他人的想法向个人反映社会其他人的想法" 。- Brave 东南亚科技播客主持人 Jeremy Au
"有些人对算法风暴的反应就像他们对风暴的反应一样-他们利用它来推动自己的议程。就像水手或冲浪者利用风浪加速前进一样， 这些人也会让自己与流行话题保持一致。这种做法在市场营销中被称为" 趋势劫持 "， 即尽早发现趋势并乘势而上。我们都还记得即尽早发现趋势并乘势而上。我们都还记得" 冰桶挑战 "（（（（（（（（试图劫持潮流试图劫持潮流我们看到很多公司和其他人试图走在社交媒体话题的前面我们看到很多公司和其他人试图走在社交媒体话题的前面，，，， 试图劫持潮流，， 我们看到很多公司和其他人试图走在社交媒体话题的前面我们看到很多公司和其他人试图走在社交媒体话题的前面我们看到很多公司和其他人试图走在社交媒体话题的前面， 我们看到很多公司和其他人试图走在社交媒体话题的前面许多企业和个人都加入了这一行列， 许多企业和个人都加入了这一行列许多企业和个人都加入了这一行列， 我们看到很多公司和其他人试图走在社交媒体话题的前面我们看到很多公司和其他人试图走在社交媒体话题的前面许多企业和个人都加入了这一行列， 我们看到很多公司和其他人试图走在社交媒体话题的前面我们看到很多公司和其他人试图走在社交媒体话题的前面许多企业和个人都加入了这一行列，
Jeremy au讨论了日益加剧的 "算法风暴"-由算法驱动的不可预测的社交媒体 "天气系统"， 算法优先考虑参与而非真相。互联网正从以人为中心、按时间顺序排列的论坛过渡到一个动荡的网络环境， 在这个环境中， 个人陷入了由僵尸网络、企业和专业影响者操纵的必须讨论的波动趋势中。他还将其与股票市场相提并论， 在股票市场上， 算法驱动的交易可能会造成闪崩，，， 有些人则不自觉地追随似乎是大多数人的意见， 而有些人则在真正的人际交往中寻求庇护。他指出， 新加坡、印度、缅甸、印度尼西亚、伊朗和孟加拉国等国的政府都采取了行动， 对内容平台进行监管， 并部署了互联网并部署了互联网断路器断路器。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量。承认网络影响的力量
由 Evo Commerce 提供支持！
Evo Commerce 在新加坡、马来西亚和香港销售物美价廉的保健品和个人护理电子产品。stryv 品牌通过其在线零售渠道和实体店销售沙龙级优质家用产品， 并采用直接面向消费者的渠道。bback是宿醉治疗产品的领导者， 在该地区拥有 2,000 多家零售店。了解更多信息， 请访问 bback.co 和 Stryv.co
(01:09) Jeremy Au：
ฉันใช้โทรศัพท์ฉันเลื่อน 我在阅读。我在微笑。我在笑。突然， 我发现自己有了反应。我感到愤怒， 我感到悲伤， 我感到担忧，，， 我继续阅读更多关于那件事的内容， 然后我越陷越深， 时间过得飞快， 我意识到好像已经过了一个小时、两个小时了， 我还在床上阅读这件事。我还在床上阅读这件事。
这篇东西是一篇新闻报道， 或者是一种时事， 或者是我正在思考的一些话题。几天后， 我发现自己在想，，， 但现在， 我完全不关心了。它对我的生活没有影响。它是我读过的东西， 但不是真正重要的东西。当我使用互联网时， 我发现自己一次又一次地陷入这样的循环中， 我开始思考这里到底发生了什么。我开始思考这里到底发生了什么。
我思考的一个方面就是我所说的 "算法风暴" 。算法风暴是指社交媒体算法所创造的宏观混乱和不可控的环境， 这些算法优先考虑参与， 以及其他机器人、有影响力的人在复杂的类似天气的条件下相互影响。风暴的特点是趋势、观点或情绪的快速传播。问题的关键在于， 面对似乎代表着大众社会的巨大信息流或观点，， 个人的能动性和力量都大打折扣。
公众情绪可以迅速变化。病毒式话题可以迅速兴起和衰落。个人被卷入不断变化的叙事旋风中， 导致网络氛围动荡不安、难以预测。这类似于我待在家里的感觉。在家里， 内心平静， 受到保护是一个安全的港湾。然后我向窗外望去， 发现外面正刮着巨大的风暴。我知道天气正在下雨、暴风雨、黑暗。于是，， 我可以选择是走出家门走进暴风雨中， 所以我最好穿上雨伞、雨衣、雨靴， 这样我就不会被淋湿， 我可以在雨中漫步，， 或者我选择待在家里。
问题的关键在于， 我不会看着外面说， 我可以改变天气， 因为我无法改变天气。暴风雨可能会持续一个小时、一整天、几天， 可能会有季风或飓风， 但我无法改变天气。我可以选择如何应对天气。天气不是由我控制的， 而是由一整套复杂因素控制的。这就是我对算法风暴的看法。而是由一整套复杂因素控制的。这就是我对算法风暴的看法。
那么， 为什么会发生这种情况呢？
从历史上看， 互联网曾经是一个纯粹的人类世界，，，， 他们拨号进入论坛， 而论坛过去只是基于文本的， 它们都是按时间顺序或逆时间顺序排列的。因此， 互联网论坛实际上就是讨论线程人们会因为关注讨论而获得奖励， 因为如果你不关注讨论线程， 那么人们就会忽略你。因此， 人们可以以线性、按时间顺序排列的方式阅读这些网络论坛讨论，，， 即如果我今天与我的朋友进行了一次对话， 那么这将是过去六年中 10 次、 20 次或 30 次对话中最后一次已知的对话。 30 次对话中最后一次已知的对话。 30 次对话中最后一次已知的对话。 30 次对话中最后一次已知的对话。
然而， 如今的社交媒体确实是由注重参与度的算法驱动的。这意味着， 如果你和我在互联网上进行了一系列线性对话， 那么算法就会根据不同的受众，，，：： "哦， 我对烹饪很感兴趣。" 因此， 当杰里米七年前与朋友讨论烹饪时， 这个帖子现在在这个帖子现在在这个帖子现在在这个帖子现在在这个帖子现在在这个帖子现在在这个帖子现在在这个帖子现在在这个帖子现在在我没有办法与任何人进行个性化对话，， 1000个不同的角色量身定制对话。然而， 在接收端，，，， 那么他们的工作就是真正地按下许多不同的按钮， 确保每一个帖子都能按下你内心的一个按钮。如果你没有按下那个按钮， 那么他们就会知道， 因为你没有关注你没有参与， 你没有搜索更多的信息。因此， 他们会寻找不同的信息， 来激发不同的感觉、情绪或问题，， 因为他们在寻找下一个按钮。因此这些算法接管了所有基于时间轴的信息源。几年前这些算法接管了所有基于时间轴的信息源。几年前，，，， 曾大张旗鼓地说：：： 嘿，， 我们不再按时间顺序或逆时间顺序提供信息了。我们现在专注于算法馈送。我们不再按时间顺序或逆时间顺序提供信息了。我们现在专注于算法馈送。，
当然， 现在他们增加了更多来自广告商的广告，， 他们决定注入大量你从未听说过的人的帖子。影响者和其他数字创作者， 以及在你很远的网络中的人， 朋友的朋友的朋友。因为他们觉得， 你的旧社交网络产生内容的方式不够辛辣不足以让你参与到平台中来。从社交媒体的角度来看， 这种算法变化是可以理解的， 因为他们想让你花更多的时间在一个平台上，， 或者花时间在现实生活中，， 或者花时间睡觉。我的意思是也有点黑暗这并不是说，，，，，，：：：： Netflix 与你生活中其他一切的对比， 无论是做饭、睡觉还是与朋友出去玩。因此， 算法真的是优先考虑参与， 并与你生活中的其他一切展开战争。
(07:10) Jeremy Au：
因此， 我们为公司和专业化的影响者创造了这套激励机制来分享内容， 包括我自己， 作为一个分享观点的人这创造了一种新的规范， 你不是在写博客， 而只是在创造内容。因此， 就我自己而言，，，， 我的参与度并不高。这是为那些对这种线性时间顺序感兴趣的人准备的吗？如果你看看最新的病毒式传播趋势， 你会发现人们赞助运动鞋广告，， 以获得病毒式传播的短暂瞬间， 这些就是病毒式传播的趋势吗？整个企业、资本主义的货币体系确实在驱使很多人注入新的内容， 这些内容的设计非常吸引人。这就造这些内容的设计非常吸引人。这就造这些内容的设计非常吸引人。这就造这些内容的设计非常吸引人。这就造，，，，成了在复杂的作品中， 突然出现了所有这些过去存在的疯狂的备忘录，，， 而制作这些备忘录的人他们中的许多人当然是业余的， 但他们中的许多人也是专业的但他们中的许多人也是专业的，： 我怎样才能把这变成一个备忘录？我怎样才能把它说得非常清楚？我们看到的最明显的例子就是政治领域， 因为有数百万美元的资金在制作专业的帖子， 在在在在在在在在在在在在在在，，，， 但其中有很大一部分实际上是由政治产生的。但其中有很大一部分实际上是由政治产生的。但其中有很大一部分实际上是由政治产生的。但其中有很大一部分实际上是由政治产生的。但其中有很大一部分实际上是由政治产生的。但其中有很大一部分实际上是由政治产生的。但其中有很大一部分实际上是由政治产生的。，，，
我们甚至可以在印度选举中看到这种情况， 现在深度虚假声音已经得到了候选人的认可和使用。因此， 这些官方候选人正在正式付费让人工智能复制他们的声音， 因为他们想向每个人、每个选民、每个角色、不同语言、不同地区、不同社区发送个性化的语音信息，，， 另一个方面是， 在僵尸网络中不只是人类在做， 也不只是专业人类被收买去做，， 还有一些机器人被收买去支持、参与， 因为他们试图让算法优先考虑他们关注的内容。因为他们试图让算法优先考虑他们关注的内容。
我们在俄罗斯僵尸网络中看到了这一点。我们在美国僵尸网络中也看到了这一点。我们在中国僵尸网络中也看到了这一点。但每个人都在试图推动某些议程， 因为他们知道这些算法是可以博弈的。而拥有这些算法的社交媒体公司也知道它们正在被游戏化， 因此它们有专门的团队来对抗这些游戏。
他们内部有整个团队负责安全和节制， 试图防止这些僵尸网络的作弊行为， 但这些僵尸网络仍在发挥作用， 因为这是一场军备竞赛。因此这些不同的系统基本上创造了一个非常复杂的在线社会天气系统， 在这个系统中，， 这些不同的事情正在发生而你基本上无法预测它， 这些系统有点像创造这些巨大的趋势， 这些趋势似乎可以出现、消失， 但它也可以在气候变化方面创造持久的变化，， 改变我们所关心的基本价值观。
那么， 人类对算法风暴的反应是什么呢？正如我之前提到的，，，， 亲自参与真正的人际交往， 而不会去理会社交媒体上正在发生的天气变化。你可以想象一下， 一个农民在农村， 他并没有真正关注所有这些趋势，， 世界上那个地方发生了冲突， 世界将被毁灭， 等等等等。他们只是说等等等等。他们只是说，，， 你知道吗你知道吗我们还是把注意力放在家庭和朋友身上吧， 放在我可以控制的事情上， 比如我的事业、我的农业、我的小微环境，， 这些都是我可以控制的这些都是我可以控制的这些都是我可以控制的，，，，，，
我想说的是， 这可能是少数，，， 多数人的意见并不意味着你支持什么。也不是因为你反对什么但多数人的意见就是你必须对那件事有自己的看法。这件事可能是我提到的美国大选。也可能是政治危机或军事冲突， 但每个人都必须有自己的看法。而且， 如果你仔细想想， 50 年前在互联网出现之前， 你只是对它没有意见， 因为你不了解它。现在， 我们并不是说你不应该了解一些事情， 但我认为， 我们必须深思熟虑， 哪些事情是我们可以控制的， 哪些事情是我们真正有发言权的，，，，，，，，，，，，
(11:22) Jeremy Au：
从众的棘手之处在于， 你可能会认为自己不是从众的一部分， 因为你反对从众。比如说， "哦， 这部电影上映了， 大家都在看《权力的游戏》或这部电视剧" 。所以每个人都会说 "好吧， 大家对此都有自己的看法大家对此都有自己的看法大家对此都有自己的看法大家对此都有自己的看法，，，， 但最棘手的是， 在人群中， 你必须谈论它。你必须围绕它说话吗？你不能不对观看节目有自己的看法。你要么支持它， 要么反对它， 要么对它一无所知。这种趋势的存在就像一场游戏要么对它一无所知。这种趋势的存在就像一场游戏，，，，，，，，，， 或者我不想看或者我不想看， 或者我不想看，，，
有些人对算法风暴的反应就像他们对风暴的反应一样， 那就是他们会利用算法风暴来推动自己的议程， 就像有些人在航海或冲浪时会利用天气来推动和加快速度一样。他们会让自己与流行话题保持一致。这是我们在营销中使用的一个术语， 叫做 "趋势劫持" 。它的基本意思是， 在新趋势出现之前发现趋势， 然后顺势而为。我们都还记得那个古老的挑战-"冰桶挑战" 的病毒血症就是你把一桶冰倒在自己身上， 然后拍下自己做这件事的过程， 接着你会说出其他几个应该做这项挑战的人的名字，， 然后他们自己也会做这项挑战。那是你能想象到的为数不多的有不同公司和不同人劫持潮流的事件之一，， 推动潮流推动潮流为某些事情鼓与呼，， 公司等试图在社交媒体对话中占据上风，， 试图劫持潮流，， 试图劫持潮流， 试图劫持潮流，，，，，，，，，，
那么， 算法风暴未来将如何发展？我们已经有了很好的例子。例如， 如果你看看股票市场和一种被称为闪电崩盘的东西。因此， 如果你看看股票市场，，， 显然有很多人在参与这个过程， 但他们不可能一直在办公桌前。因此，， 基本上展示和执行他们的训练策略。他们有特定的规则， 对吧？如果出现这种情况， 就这么做。算法反映了人类的策略， 但也有高频交易者希望减少套利但也有高频交易者希望减少套利， 对吧？ 对吧？
所以他们会说， 如果我发现有人以 50 美分的价格卖出， 但有人想以 52 美分的价格买入， 我就会在那一瞬间， 基本上以 50 美分或 51 美分的价格买入， 52 美分的价格卖出。但从根本上说，，， 以避免市场效率低下。因此， 它们真的不知道该做什么。因此它们真的不知道该做什么。因此它们真的不知道该做什么。因此它们真的不知道该做什么。因此， 它们真的不知道该做什么。因此它们真的不知道该做什么。因此，，， 股票市场价格可能在几秒到几分钟内跌到很低很低的价位。，
然后， 人类散户交易者就会被卷入其中， 然后他们就会收到 "叮"、 "乒"、 "通知" 通知 "或"消息"， 然后他们就会急忙回到手机前，， 散户投资者就会迷失方向， 无所适从。然后， 我们经常看到， 也许会出现快速回升，， 嘿，， 例如， 证券价格的暴跌。因此，，， 这就存在一个有趣的套利机会那就是， 一致同意联合卖出，， 对吧？有趣的是， 对吧？有趣的是 对吧？有趣的是， 对吧？有趣的是，
因此， 所有这些事情都相互作用， 例如， 当局现在有了断路器。这意味着，，， 如果股票市场价格在很短的时间内下跌， 比如说低于 10%或 20%， 或者其他百分比， 不管是 5 分钟、 10 分钟还是 30 分钟还是分钟但他们希望在股票超时的地方安装断路器。因此，，， 因为他们希望每个人都回来。他们希望人们处理新闻。他们希望人们有足够的时间坐下来讨论新闻。然后希望当他们重新开放该股票的交易时，， 股票会回到正常的定价模式。，，，，，，，，， 不管是
(16:17) Jeremy Au：
我们还看到， 股票市场也在试图监管和真正管理是否允许这些高频交易者直接进入股票市场交易所， 因为他们不希望创造出太不对称的不公平优势， 同时也因为他们明白这是高频交易的不幸副作用之一。这与舆论市场形成了有益的平行关系， 因为现在我们看到， 这些社交媒体趋势正在迅速传播。它们的保质期只有一周或两周， 而且会一波一波地推动公众舆论。如果人们不得不对这些流行话题做出反应并形成观点。然后在几周之内， 数字焦点就会转移到下一件大事上。那个在数字焦点就会转移到下一件大事上。那个在数字焦点就会转移到下一件大事上。那个在上非常重要的病毒式备忘录，，，，， 或者实际上是无害的。曾几何时， 人们在争论一件衣服是什么样子是蓝色还是金色。有一个大的备忘录是蓝色还是金色。有一个大的备忘录人们都在讨论这个问题。而现在， 我觉得很多年过去了，，， 我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它， 我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它我肯定花了不少神经元去嘲笑它，，，，，，，
而现在， 它就像一文不值， 对我的生活毫无影响。所以， 这只是一个无伤大雅的病毒式流行语只是浪费了很多人的时间。所以我们看到的是， 政府担心这些东西会造成大量不稳定因素， 可能是政治或社会运动。因此， 政府正试图增加对社交媒体平台的管理权和惩罚措施， 以加强对社交媒体平台的控制。但同时， 为了保持控制，， 有点像极端版本的断路器有点像极端版本的断路器，， 不管是好是坏， 这取决于你如何看待它。这取决于你如何看待它。
例如， 在新加坡， 就有《 pofma》， 即《防止网络虚假信息和操纵法》， 其既定目标是从政府的角度打击假新闻。它非常要求那些传播某些他们认为是假的东西的供应商或人， 基本上， 他们必须发布政府的反驳， 并阐明他们已受到该法案的制裁。并阐明他们已受到该法案的制裁。
(พระราชบัญญัติการสื่อสารและมัลติมีเดีย, CMA） 允许封锁政府定义的有害网络内容。在印度、缅甸和印度尼西亚， 他们都颁布了互联网封锁令。例如， 印度在查谟和克什米尔地区实施了互联网封锁。缅甸实行互联网封锁以控制信息。印尼在政治逮捕期间关闭了互联网， 比如比如比如，，，，，，， 后来最终恢复了移动互联网后来最终恢复了移动互联网，，，，，，，，，，，，，，，，，，，，，，，，，，，，
(19:09) Jeremy Au：
所以有趣的是， 算法风暴不仅仅是用来操纵参与度的算法。它们也是社会大众的策展人和守门人， 他们以一种前所未有的方式相互交流。从生物学上讲， 人类的天性就是与自己、与朋友、与家人、与部落、与村庄交谈。而只有在过去的 50 年里， 人们才能与世界上的每一个人交谈。当你在网上发言或发帖时， 你的影响力可能会覆盖全球数百万或数十亿人。因此， 这些算法就像一面镜子， 不仅能调节和塑造社会不仅能调节和塑造社会， 还能反映社会其他成员的想法。
当然， 算法风暴与舆论风暴之间的细微差别在于， 识。如果人类社会识。如果人类社会 100%的人都想吃夏威夷披萨， 而算法基本上帮助增强了其中的一部分， 但它准确地反映了那里 100%的人都想吃夏威夷披萨的意见那么你就不会称其为算法风暴。这只是一场舆论风暴， 所有人都突然要求吃夏威夷披萨。算法风暴产生的原因在于， 如果只有 5%的人真正关心夏威夷披萨而其他人都不关心， 但算法风暴却让你从个人消费的角度， 切实感觉到社会上切实感觉到社会上切实感觉到社会上，， 算法试图触发你的信息其实是非常明显的算法试图触发你的信息其实是非常明显的算法试图触发你的信息其实是非常明显的，，， 我认为这才是算法风暴真正具有最怪异、最负面形式的时候 我认为这才是算法风暴真正具有最怪异、最负面形式的时候 我认为这才是算法风暴真正具有最怪异、最负面形式的时候 我认为这才是算法风暴真正具有最怪异、最负面形式的时候，，，，，，，，，，，，，
(21:04) Jeremy Au：
因此， 我们无法控制的这种算法宏观天气是，，，， 你可能会觉得手机比你小， 你是手机上按键的那个人。但实际上， 手机要大得多， 因为它是一个巨大的天气系统。而在桌子的另一边你并没有按下按钮。而是由工程师和商业团队设计的算法在按你的按钮。因此， 我个人对此的反思是，，， 很明显， 那里有太多的力量、太多的信息、太多的学问， 但当我发现自己对某种趋势、感觉、情绪做出反应时， 我必须告诉自己，， 我们必须在对某件事情做出反应之前，，，，，，，，， 这会影响我的生活吗？一年后我还会记得这个事件或趋势吗？我为什么要读这个？我尊重的人关心这组新闻吗？这些都是至关重要的问题，
总之， 要驾驭当今的算法风暴， 确实需要暂停的意识和批判性思维， 时不时地真正断开连接，，， 即我们是按下手机按钮的人， 我们从手机中获取信息我们对信息做出反应， 我们对信息进行处理、学习并采取行动。我们必须反过来看待手机，， 它是一个充满僵尸网络和企业利益的复杂社会的天气系统。这个天气系统正在接触手机， 触碰我们的按钮。触碰我们的按钮。
我们不想让算法像钢琴一样弹奏我们的情感。我们必须退一步， 我们必须为自己着想。我们必须寻求真正的人际互动。我们必须质疑数字噪音。我们必须记住， 随着时间的推移， 这些算法风暴只会变得越来越强大， 因为有了更好的算法、更专业化的内容， 以及更多的多个主题的连接， 有了个性化结构的深层信息网有了个性化结构的深层信息网互联网比你更了解你自己。互联网比你更了解你自己。
因此， 无论何时听到互联网的声音， 都要保持勇敢、冷静， 并思考自己的感受。
在此， 非常感谢大家参加今天的节目。请订阅勇敢播客。欢迎给我们评分或留言评论， 并关注我们的网站 www.vravesea.com， 了解更多见解和讨论。