xg1990

最近看到一位网友的创业计划（https://mp.weixin.qq.com/s/OFrFtfmpl2_Yc3ZaZiU78Q），专注二级市场投资，从中提取到一些来自科班出身人士的一些有价值的信息： 投资方式 相对比较稳定的投资方式主要有： 港股打新 A股打债&底仓打新&股指定投&少量期指对冲优化 价值投资 分析方式 20%宏观变化+40%中观行业趋势+40%微观公司基本面思考比例做深度研究，从行业开始进行调研并搭建公司估值模型，最终形成投资决策，长期围绕价值投资策略进行加深 风控方式 最重要的是系统性风险的管理。例如宏观局势带来的无法通过投资组合进行分散的风险 其次是仓位管理，避免任何个股占太高的比重 需要的资源 做专业的投资并非可以白手起家，需要趁手的工具辅助，例如Wind，Choice，iFind，慧博投研、Bloomberg等金融终端及量化系统。各个平台成本不一，低预算情况下可以考虑慧博投研，Choice和iFind 投资目标 合理可行的目标是年化15% 需要具备的知识体系 DCF等估值模型方法 组合间的仓位轮动 推荐书目 《原则》

ML Compute 是 MacOS 11 Big Sur 里新加入的机器学习加速引擎，可以提升神经网络的训练和预测速度。 同时苹果官方也提供了支持ML Compute的优化版本Tensorflow来利用这一特性。源码已经在github上开源提供。 提前准备 使用该特性前，需要先确保MacBook已经升级到最新版本（MacOS 11.0+），同时确保python升级到3.8版本。 python升级到3.8版本后，需要为tensorflow_mac创建一个虚拟环境（venv），执行命令 python3.8 -m venv tensorflow_macos 即可，该命令会创建一个名为tensorflow_macos的python3.8 虚拟环境，同时也会创建一个名为tensorflow_macos的目录，后面tensorflow_macos会安装在这个目录内的虚拟环境中。使用 cd tensorflow_macos 命令进入该目录，同时执行 pwd 展示该目录的完整路径，下面安装时会用到。… Read More »在MacOS 11 Big Sur里使用 ML Compute 框架加速Tensorflow

本文翻译自：https://analyticsindiamag.com/contrastive-learning-self-supervised-ml/ 近年来，自我监督模式的成功可以归因于研究者对对比学习这一自我监督学习范式的重新兴趣。例如，人类可以辨认出野外的物体，即使我们不记得物体的确切样子。 我们通过记住高层特征而忽略微观层面的细节来做到这一点。所以，现在的问题是，我们是否可以建立一个不关注像素级细节，只编码足以区分不同对象的高级特征的表示学习算法？通过对比学习，研究人员正试图解决这一问题。 最近，甚至连Google的SimCLR也展示了对比学习的含义，我们将在本文的最后简要介绍这一点。 对比学习的基本原则 对比学习是一种为ML模型描述相似和不同事物的任务的方法。利用这种方法，可以训练机器学习模型来区分相似和不同的图像。 对比学习的内部工作可以表述为一个分数函数，它是衡量两个特征之间相似度的一个尺度。 在这里 x+是与x相似的数据点，称为阳性样本 x−是与x不同的数据点，称为阴性样本 在此基础上，可以构建一个softmax分类器来正确地对正样本和负样本进行分类。在最近引入的 SimCLR 框架中也可以找到这种技术的类似应用。 应用对比学习（Contrastive Learning） 谷歌推出了一个名为“SimCLR”的框架，使用对比学习。该框架首先学习未标记数据集上图像的一般表示，然后针对给定的分类任务，使用带标签图像的小数据集对其进行微调。 通过同时最大化同一图像的不同版本或视图之间的一致性，并通过对比学习缩小差异来学习基本表征。 当使用这个对比目标更新神经网络的参数时，相应视图的表示相互“吸引”，而非对应视图的表示相互“排斥”。 在这个博客中，对原始论文作了更细致的解释。 程序如下： 首先，从原始图像生成一定大小的批处理数据（Batch），比如N 对于这个批处理中的每个图像，应用一个随机变换函数来获得一对两个图像 一对图像中的每个增强图像都通过一个编码器来获得图像表示。 两个增强图像的表示然后通过一个非线性密集层，然后是一个ReLU，然后是另一个密集层。这些图像被传递到一系列这些层上，以应用非线性变换并将其投影到表示中 对于批处理中的每个增强图像，获取一个嵌入向量。… Read More »什么是对比学习（Contrastive Learning）？

The Social Dilemma 认为，人类最大的生存威胁不是气候变化，而是Facebook。 在社会困境中穿插着一个戏剧性场景：一个虚构家庭中的儿子正被YouTube激进化。  作为一名纪录片制片人，杰夫·奥洛夫斯基似乎全神贯注于世界的毁灭。他在2012年拍摄的电影《追冰》捕捉到了气候变化对冰川融化的毁灭性影响。2017年，他记录了在追逐珊瑚的过程中珊瑚礁的侵蚀。他的最新电影《社会困境（The Social Dilemma）》瞄准了一个更大的危险：社交媒体。 社会困境不止一次表明，社交媒体代表着“人类最大的生存威胁”。去年4月，在旧金山的SFJazz中心，技术专家特里斯坦·哈里斯（Tristan Harris）公布了一项“科技新议程”。哈里斯（Harris）曾是谷歌（google）的一名员工，他在道德上对社交媒体表示担忧并将《时代》搬上了一个新的非营利组织，人文技术中心，他当天在台上正式介绍了这个中心。我们中的许多人都同情这个原因，让我们想起我们认识的魔鬼：错误信息、操纵、病毒性、上瘾、过滤泡沫、FOMO。但是哈里斯来这里是为了引起大家的关注。我们被控制了，就像大科技掌中的伏都教玩偶，我们像工厂养殖的肉一样被切碎出售。哈里斯说：“这不仅仅是一场争夺我们注意力的战斗。如果我们不知道这是人类的终结。 演讲结束后，在大厅里的小吃中，我和一家准备IPO的大型社交网站的创始人交谈。你怎么想的，我问。他告诉我，很有意思。我们聊了一会儿，眼睛睁得大大的，因为他们适应了剧院外面的光线，我们很快就要回去工作了，他在社交平台，我写的是关于社交平台的文章。我们都喜欢这个演示。但我们两个都不可能用一句话来概括到底是什么让技术出了那么大的问题，或者我们应该如何解决它。 同样的感觉也出现在今天Netflix上的《社交困境》之后。这部纪录片的目标是社会媒体对人性的毁灭性影响，哈里斯在SFJazz中心的演讲片段贯穿始终。就像那场演讲一样，这部纪录片带有一种庄重的气氛。它像审判律师一样起诉案件，传唤一个又一个证人出庭作证。他们包括许多我们今天所知的社交媒体的伟大设计师，比如Facebook前货币化总监蒂姆·肯德尔（Tim Kendall）；发明“喜欢”按钮的贾斯汀·罗森斯坦（Justin Rosenstein）；以及为YouTube创建推荐视频基础设施的纪尧姆·查斯洛特（Guillaume Chaslot），所有人都谴责他们以前的工作。 但是，尽管社会困境确定了问题的存在，但它仍在努力寻找臭味的来源。影片开始时，一位银幕外制片人问技术人员，社交媒体到底出了什么问题。最后是那些技术专家对未来的预言。大多数情况下，它显示的是技术人员在座位上蠕动，不知道从哪里开始。 但最终，他们开始交谈。因此，我们在社交媒体上花费的时间太多了。我们这样做是因为，本质上，我们别无选择。在科技公司工作的人投入了无限的金钱、时间和工程能力来设计系统，让我们沉迷其中，并预测我们的一举一动。这就是他们如何赚钱：我们不是用户，我们是产品（这样的陈词滥调经常重复）。马克·扎克伯格和苏珊·沃奇基都是亿万富翁；与此同时，其他人都放弃了幸福、知识、亲密、自发性、与家人在一起的时间、自由意志。我们是一个可怕计划的牺牲品。我们生活在20亿的杜鲁门电视剧里。我们生活在母体里！ 当然，有点夸张，但这部电影并不精妙。奥洛夫斯基用一个贯穿于整部电影的怪异戏剧化叙事来强调这些批评，在这部影片中，演员们描绘了一个想象中的家庭与技术之间的陈规定型冲突。餐桌上没有眼神交流，一个十几岁的女儿在社交媒体上自尊心受损，一个十几岁的儿子开始在手机上听越来越激进的视频。有一次，当这个十几岁的男孩粘在他的手机上时，电影切到了一个隐喻的“控制中心”，人们在操纵男孩的饲料，而“我给你施了咒”在背景中播放。以防万一你没注意到。 很多处于社会困境中的事情，尤其是这个家庭的关系，在2020年会感觉古板。是的，我们的手机改变了我们与家人和朋友互动的方式。是的，孩子们特别脆弱。但这些都不是特别新鲜，甚至没有什么有趣的。毕竟，哈里斯多年来一直在强调这些观点，而他在这方面绝非孤军奋战。就连扎克伯格这样的社交媒体高管也承认，他们的平台需要家长和立法者的更多监督。 观察冠状病毒大流行期间的社会困境增加了些许讽刺。这部电影的诞生正值许多美国学校转向在线学习，创纪录的美国人在家工作，可靠的互联网比以往任何时候都更加珍贵。即使是社交媒体也有新的价值，作为一种联系朋友和家人的方式，我们看不到。这些平台与我们的生活息息相关。那些无法使用手机、电脑或稳定WiFi的人可能会发现，到2020年，他们并没有实现某种天顶般的涅盘，而是被排除在工作、学校和社会的其他地方。 这种社会困境表明了“好”技术和“坏”技术的区别；哈里斯一度承认，搭车应用程序的发明让人感觉很神奇。不过，总的来说，这部电影混淆了批评，在对社交媒体的攻击和更广泛的技术攻击之间交替进行。有时，它也过分简化了社交媒体对整个社会的影响。例如，它提出了一个观点，即青少年抑郁症的激增可以追溯到社交媒体的兴起。当然，这是第一代在Instagram上长大的美国孩子，但他们也在考虑气候变化、摇摆不定的民主、种族主义、社会制度的衰落、直升机育儿以及其他许多可能，或许会助长忧郁情绪的因素的不可逆转的影响。（许多专家警告说，不要将社交媒体与心理健康之间的直接因果关系画上等号。）虽然社交媒体会加剧欺凌、孤独或不切实际的美貌标准等问题，但它们肯定不是它发明的。 哈里斯最终在社会困境的结尾承认了这一点。社交媒体本身并不是存在的威胁。相反，这是社交媒体浮出水面并放大人性最坏一面的方式。那么，这场战争与其说是大科技，不如说是人类可怕的冲动。这是一部电影中一个短暂的智慧瞬间，否则会让观众惊醒。不幸的是，无论是哈里斯还是纪录片都没有给那些已经清醒的人提供太多实用的建议。任何在社交媒体上花费超过几分钟的人都知道这是一团糟。我们该怎么办？负责的是，制片人在纪录片的结尾问了这个问题。技术人员提出了一些想法：调整设计。改变商业模式。制定新的规章制度。彻底关闭这些公司。不过，大多数情况下，他们的回答都是茫然的。

0. 差分隐私简介 随着GDPR法规的实施，各大公司为了避免罚款，开始重视用户个人隐私的保护。差分隐私是近年新兴的一个研究领域，主要研究如何使用数学方法保护数据中的用户个人隐私。 简单而言，差分隐私主要通过给数据增加随机噪音来污染数据，来达到保护隐私的作用。但噪音的多少至关重要，如果噪音太少不足以达到隐私保护的目的，如果噪音太多就会掩盖有价值信息。而具体往数据中增加多少噪音，就是差分隐私需要讨论的问题 1. 问题背景 我们假设一个企业想要发布自己用户的统计信息，例如：T宝计划发布用户每个城市的用户每年平均消费金额，作为某个活动的宣传文案。直观来看，公布城市的统计数据（比如平均值）并不会泄漏任何人的隐私。但在最坏的可能下，少数人的数据会因此而暴露。 具体情景如下：假设X城市总人数为100人，T宝公布的该城市2018年人均消费金额是1万元，2019年人均消费金额暴增到2万元。同时你从其他信息渠道得知，某知名富二代Y在2019年搬入X城市。X城市现在的人口是101人。 那么根据平均值的定义，我们可以推算出，客户Y的年消费金额是 2万*101-1万*100=102万 虽然该公司只是公布了X城市两年的人居消费数据，但在不经意间暴露了一位新来客户的信息。这就是差分隐私要解决的问题之一 2. \(\epsilon\)-差分隐私 开始之前，需要先量化需要解决的问题。在上面的例子中，主要的问题来自于连续公布的两个统计量（1万和2万）相差太大，带来了隐私泄露。 此类问题的解决方案称为\(\epsilon\)-差分隐私。\(\epsilon\)-差分隐私是差分隐私的一种，它将需要解决的问题用规范的数学形式描述为： \[ \frac{\Pr[{\mathcal {A}}(D)\in S]}{\Pr[{\mathcal {A}}(D‘)\in S]} \leq \exp \left(\epsilon \right)… Read More »差分隐私项目实践——统计数据隐私保护