构建软件为任何基础设施(客座博客)

作者:威廉·吉梅内斯

一个公司的数据往往是其最有价值的资产。现代企业依靠其数据的性能监控、市场洞察力,维持竞争优势和制度知识。然而,随着数据的爆炸性增长,数据类型,公司面临挑战的增加组织、管理和从他们的数据获得的见解。基于ai的解决方案雷电竞官网进入用于解决这些挑战的前沿机器学习,基础设施设计和部署,灵活的计算。

在引物,我们构建机器学习系统,可以阅读(NLP)和理解(NLU)多样化的非结构化文本数据,并为用户提供一套总结输出(NLG)——从pdf文档知识库。我们的目标是帮助企业加速他们对周围世界的理解,从学术研究者金融分析师,公共部门的雇员。

在许多我们的部署,我们的客户把他们的数据平台,我们部署套件AI引擎的基础设施。这使得企业为了自己的专有数据安全的范围内自己的网络。然而,它引入了一组独特的挑战,我们必须解决。框架共同语言的问题:目标是提取意义,更好地组织,总结tb pb级的非结构化数据在各种云计算和本地部署前沿和不断进化AI-engines。我们考虑的问题包括:

  • 我们如何保持产品的连续性在不同基础设施?
  • 如果客户是运行在一个架构之前,我们从来没有一起工作吗?
  • 我们的客户手上有足够的计算资源?雷竞技rabet官网
  • 我将会付出什么样的代价来支持我们的客户在我们托管解决方案吗?

在还原论的风险,有两大策略。第一是使系统需求和安装过程尽可能通用,做出一些假设客户的基础设施。第二是采用定制的产品和支持的“平台”,利用已知的这些平台自动化这个过程。

每一个战略的方法为代价。首先是更少的工作为你的工程师为客户但可能带来摩擦和售前团队。第二可以产生一个积极的用户体验,但可以昂贵的维护执行不佳时,客户可能有一个负面的经验,尽管额外的努力。权衡是混合的严重性当公司处于初期阶段,每个工程师都需要与关键功能可以扩展业务。

在底漆,我们选择了一个混合的两种策略和投资策略和技术来减少我们的时间来部署和维护解决方案,同时最小化所需的工程周期数量。雷电竞官网进入我们实现这一目标通过利用Kubernetes作为编制技术。Kubernetes允许我们建立一个基础设施的概念,而不是一套定制的方法绑定到特定的配置和操作系统。传统上在设计软件时,大量的争论发生在如何使用AWS, GCP或者Azure将改变软件设计。每一个云提供商有价值的差异,可以使应用程序提供商的依赖,尤其是如果你利用的更有用的功能提供者。而不是减轻这种利用更少的云提供商的产品,我们的方法可以让我们的工程团队赚更多的假设基础设施的特点。底漆的重大胜利,Kubernetes做很多重活累活翻译其设计原语类型不同的基础设施。理想情况下,这让两全其美:构建软件的能力高度自动化部署/安装同时还能够灵活地适应我们的客户可以使用几乎任何基础设施。

这个想法是远离小说,可以发现在越来越多的企业在各种垂直。我们只是创建了一个抽象称为“接口”,允许我们处理许多相似但不同的实现相同的功能。新奇值得一提的是混合的方式通知和提供了巨大的灵活性在未来产品设计和迭代产品改进,而历史基础设施因素可以在开发周期的最后或限制方面的最终解决方案。

这种自由使我们在底漆我们宝贵的工程人才关注更重要的、更重要的区别。我们可以专注于快速调谐引擎的最新算法的方法,我们可以现在距离自己担忧的“操作系统”和“云提供商”。

如果上面的好处还不够,使用Kubernetes这样的解决方案还使底漆利用节约成本措施AWS实例。使用现货历来是困难的,因为我们考虑基础设施的方式。服务器是精心为特定目的,包含冗余状态,人的时间和精力来取代。这些因素使得现货市场的行为,例如尤其是破坏环境。相反,Kubernetes是建立在一个服务器的概念被自然和不包含任何短暂的状态,不能丢失。这通常被称为哲学的区别“宠物”与“牛”,实际上否定的现货市场的“惩罚”。

在引物,我们使用一个服务称为Spotinst已经采取了很多的复杂性利用现货实例和Kubernetes本地连接器。与Spotinst我们只是我们的集群Kubernetes插入它突然保存60 - 70%的AWS花与Pod-driven基础设施自动定量,这意味着我们不需要容器和Pod尺寸符合我们的实例。这种解决方案的优点是,我们取得了这些储蓄投资没有任何额外的工程工作。这翻传统成本/收益模型,当看着基础设施的成本节约。Spotinst一直使我们宝贵的合作伙伴基础设施更有用的和有效的。

Spotinst还提供了额外的工具和自动化,像一个仪表板查看我们的集群是跨集群配置仓。我们可以看到什么实例类型最有效的使用,和做出更明智的决定对我们的规模和容量的需求。

最后,Spotinst将为我们的客户提供一个解决方案成本效益扩大自己的计算环境,因为他们使用沉重的计算基于ai的解决方案,如底漆来驱动他们的组织的新见解。雷电竞官网进入

我们相信公司会有一个不断增长的需求服务,比如底漆提供洞察其日益增长的大量的内部和外部数据。虽然许多基于ai的解决方案将会发达,我们相信,这些解决雷电竞官网进入方案提供商将没有豪华依靠传统的SaaS模型,,我们提出的架构将为开发人员提供的灵活性,支持IT组织中的部署和维护客户,并提高最终用户的时间值。

作者:威廉·吉梅内斯