现货启用Haptik如何以更大的规模控制和降低成本

简要介绍Haptik

会话AI行业最大的名字之一,Haptik一直在最前沿的范式转换使用AI扰乱市场是如何运作的。与一个团队的一些最优秀的头脑在AI, Haptik使品牌能够通过支持和提高与客户接触铅的一代。铅一代——营销最重要的一个方面——本质上是一个人的转换只是聊天聊天机器人是有趣的在购买产品或服务。Haptik函数在不同的频道,无论是WhatsApp,网络聊天,或者移动聊天应用程序。

突出显示

平台最近的一个亮点是在大流行期间,当他们创建了一个COVID-19机器人——一个世界上最大的WhatsApp机器人——印度政府。这演示了如何Haptik功能在全球范围内通过与不同的客户在全球各地。

背景

当Haptik开始于2013年,其产品是一个庞然大物运行机器学习管道,非常类似于web服务器请求服务。他们很快意识到全球扩展需要迁移到云上,开始从on-prem迁移到AWS的过程。在这一点上,他们仍然手动B2C公司做事。

在业务方面,他们仍然需要手工处理聊天的聊天机器人代理坐在一个系统回复给最终用户。在基础设施方面,他们启动手动通过创建一个新服务器和服务器添加在一个负载均衡器。当云旅程开始时,手动启动一个新的负载均衡器,创建一个AMI,创建一个新的服务器,把它在负载均衡器,和处理许多这样的手工任务。

的挑战

迁移到云带来了不少挑战。

1。自动化的一切

手动自Haptik仍尽,任何人加入这一点的公司必须经历一个学习曲线,他们必须遵循多个手动步骤得到基本的东西。优惠后变得更基本的事情和培训每一个新员工是一个重大的努力,需要简化。创建和配置一个新实例是一个长期的过程,一个新的团队成员。Haptik团队必须找出如何自动化平淡和乏味的任务没有巨大的开销。

2。成本管理

Haptik基本上是使用按需而不是使用保留的情况下,或其他具有成本效益的替代方案。这被证明是非常昂贵的事情。因此,减少系统的成本是一个明确的优先级。

解决方案

Haptik选择现货来帮助克服这些挑战,描绘更加可伸缩的增长路径的云。

Elastigroup帮助自动定量

Elastigroup是Haptik开始使用的入口点。他们开始整合两到三Elastigroups分期和无缝地从分段迁移到生产环境。

扩展花费更少

现货启用Haptik利用抢占式虚拟机(又名现货实例)节省高达90%的成本比随需应变的实例。现货也能很容易的将大量的实例添加到负载均衡器没有成本一只手臂和一条腿,因为它允许你摆脱几小时后未使用的实例。这一切导致Haptik云法案变得小得多。

除了使用现货实例,可以为关键风险工作负载,Haptik还想选择哪种类型的虚拟机使用的能力,抢占式点播,保留,等几个月的有一个从现货更新的功能,允许Haptik选择不同的特定类型的虚拟机,因此给Haptik不仅节约成本,但更多的控制基础设施运行的类型。

扩展了聪明

Elastigroup启用自动伸缩基于某些指标,如CPU、内存和网络请求,甚至允许自定义指标。这意味着扩展虚拟机不需要为每个请求和你可以选择规模vm或现货Elastigroups只有当一个特定的度量不工作或者不工作,因为它应该。Elastigroup允许Haptik定义特定的政策目标和规模集群基于这些政策定义的条件。这个过程大大简化缩放和团队的责任转移到一个专用的解决方案——Elastigroup。

这一点,再加上Elastigroup内置的调度功能点提供允许Haptik扩大白天当他们体验高峰流量,并减少在晚上当交通很低。此外,Elastigroup可以自动注册新创建的实例和优雅的取消旧的拯救行动小组当扩展更多的手工工作。所有这一切意味着扩展不仅便宜,更多的控制,但也更聪明。

规模变大

Haptik开始成长,他们看到峰值180000并发用户的请求。这意味着他们必须创造150 - 200个节点的2分钟支持负载。手动添加这么多节点将是痛苦的。这就是点介入,使它容易增加200抢占的vm在2分钟。研究团队Haptik印象深刻,甚至不仅惊讶的速度增加这些实例,但他们是多么划算的。

在过去的三年里,从一个B2C Haptik从B2B设置而迁移到AWS。他们从20 - 30 vm运行每一个现在,有更多的vm运行在默认情况下,和扩展到数百vm在几分钟内。

结果

使用点使Haptik过渡到AWS ECS(弹性容器服务),同时仍然主要使用相同的Elastigroups非常小的变化。

简化的持续部署

使用点的主要好处之一是在部署,持续部署的现货简化整个过程。就是这样简单的给点AMI ID并单击deploy按钮。的部署会像一只金丝雀部署的选项定义多少你想部署实例- 10%,20%,30%等。推出的特点极大帮助Haptik简化其持续部署。

此外,Elastigroup与任何工具集成的能力被用于Haptik的CI / CD管道无缝集成和配置。这是很重要的在这个世界上,CI / CD管道与最佳工具正变得越来越拥挤,彼此都需要完整。

整体弹性

目前至少有90 - 91%的Haptik的工作量完全运行在AWS抢占的vm上。通常情况下,这将是一个巨大的风险与AWS可以删除抢占的vm。然而,Elastigroup能够提前预测这将在什么时候发生,和所有数据迁移到新的抢占的实例,从而确保工作负载零中断和足够的IPs在所有选定的可用性区域。使用Elastigroup帮助Haptik构建更具弹性和可靠的系统预生产和生产环境。

注意:Onnivation,伙伴和增值分销商Netapp的现货在亚洲,一直在帮助理解客户的需求和驱动接触端到端优化客户的计算成本。

,未来将会是什么?

今天,最大的驱动力Haptik目前成为Kubernetes-first公司。的方法来实现这一目标的关键是减少依赖ECS的。Haptik部采用了Azure,现在经营着一家multicloud设置。他们的目标是能够灵活地操作任何潜在的云平台同时还拥有Kubernetes带来的一致性。他们很高兴点帮助这里也同时支持AWS和Azure,使Haptik cloud-agnostic。