網(wǎng)上有很多關(guān)于銀聯(lián)的pos機(jī)內(nèi)存已滿(mǎn),中國(guó)銀聯(lián)—基于容器的金融數(shù)據(jù)庫(kù)云平臺(tái)DBaaS設(shè)計(jì)實(shí)踐分享的知識(shí),也有很多人為大家解答關(guān)于銀聯(lián)的pos機(jī)內(nèi)存已滿(mǎn)的問(wèn)題,今天pos機(jī)之家(m.51zrwd.com)為大家整理了關(guān)于這方面的知識(shí),讓我們一起來(lái)看下吧!
本文目錄一覽:
1、銀聯(lián)的pos機(jī)內(nèi)存已滿(mǎn)
銀聯(lián)的pos機(jī)內(nèi)存已滿(mǎn)
本文根據(jù)曾玉成老師在2018年5月11日【第九屆中國(guó)數(shù)據(jù)庫(kù)技術(shù)大會(huì)(DTCC2018)】現(xiàn)場(chǎng)演講內(nèi)容整理而成。
講師介紹:
中國(guó)銀聯(lián)資深數(shù)據(jù)庫(kù)專(zhuān)家,數(shù)據(jù)庫(kù)團(tuán)隊(duì)負(fù)責(zé)人 曾玉成
中國(guó)銀聯(lián)資深數(shù)據(jù)庫(kù)專(zhuān)家,數(shù)據(jù)庫(kù)團(tuán)隊(duì)負(fù)責(zé)人,銀聯(lián)技術(shù)專(zhuān)家委員會(huì)委員;團(tuán)隊(duì)負(fù)責(zé)銀聯(lián)信息總中心數(shù)據(jù)庫(kù)、大數(shù)據(jù)相關(guān)運(yùn)維工作;13年大型核心金融交易系統(tǒng)數(shù)據(jù)庫(kù)設(shè)計(jì)及運(yùn)維經(jīng)驗(yàn),最近5年帶領(lǐng)團(tuán)隊(duì)在開(kāi)源技術(shù)包括數(shù)據(jù)庫(kù)云、分布式數(shù)據(jù)庫(kù)、大數(shù)據(jù)、容器技術(shù)、規(guī)模化運(yùn)維等方向進(jìn)行實(shí)踐和探索。
分享大綱:
1. 銀聯(lián)轉(zhuǎn)型發(fā)展的技術(shù)需求
2. 數(shù)據(jù)庫(kù)云的銀聯(lián)方案
3. 數(shù)據(jù)庫(kù)云建設(shè)的挑戰(zhàn)
4. 發(fā)展及暢想
一、銀聯(lián)轉(zhuǎn)型發(fā)展的技術(shù)需求
金融行業(yè)數(shù)據(jù)庫(kù)技術(shù)發(fā)展趨勢(shì)
從金融行業(yè)來(lái)講我們大概有這么幾個(gè)趨勢(shì),之前的話(huà)大家都知道在銀行里面或者金融系統(tǒng)里面用的都是一些IOE,像一些產(chǎn)品的數(shù)據(jù)庫(kù)加小機(jī)加存儲(chǔ),現(xiàn)在是因?yàn)槲覀兊臉I(yè)務(wù)也是在不斷地互聯(lián)網(wǎng)化和移動(dòng)化方向發(fā)展,同時(shí)現(xiàn)在因?yàn)閷?duì)金融機(jī)構(gòu)來(lái)講監(jiān)管有一些要求,比如說(shuō)一些開(kāi)源、國(guó)產(chǎn)化、自主可控這些方面對(duì)我們來(lái)講就提出來(lái)一些新的要求。
因此金融行業(yè)的技術(shù)發(fā)展有這么幾個(gè)趨勢(shì),有點(diǎn)像互聯(lián)網(wǎng)企業(yè)一樣,就是說(shuō)微服務(wù)化、分布式化、平臺(tái)化、自動(dòng)化、智能化這樣一個(gè)發(fā)展趨勢(shì),大部分的銀行或者金融機(jī)構(gòu)里面目前的現(xiàn)狀可能是商業(yè)產(chǎn)品,同時(shí)也有大量的這種開(kāi)源的數(shù)據(jù)庫(kù)并行的現(xiàn)狀,總體的話(huà)就是自主可控、分布式、PssS云化和自動(dòng)化。
銀聯(lián)轉(zhuǎn)型發(fā)展的技術(shù)需求
這個(gè)是針對(duì)我們銀聯(lián)自己來(lái)講的話(huà),就是我們銀聯(lián)在業(yè)務(wù)的轉(zhuǎn)型對(duì)我們技術(shù)的需求。之前的話(huà)大家可能也都知道基本上銀聯(lián)的業(yè)務(wù)場(chǎng)景就是POS刷卡、ATM取錢(qián)、操作,但是這幾年的話(huà)業(yè)務(wù)發(fā)展慢慢的也是移動(dòng)互聯(lián)網(wǎng)化,比如說(shuō)像我們的一些產(chǎn)品,包括云閃付APP,大家用的是apple pay這些產(chǎn)品,還有一些銀聯(lián)在線(xiàn)掃碼支付,這些都是移動(dòng)互聯(lián)網(wǎng)的這樣一個(gè)業(yè)務(wù)場(chǎng)景。
那么這些業(yè)務(wù)系統(tǒng)的話(huà)跟我們有相關(guān)的一些特點(diǎn),第一個(gè)就是業(yè)務(wù)來(lái)的很快,而且規(guī)模都很大,然后像這些APP的話(huà)經(jīng)常會(huì)搞一些活動(dòng),那么對(duì)一些需求也是風(fēng)險(xiǎn)的要求比較高的,比如說(shuō)我們搞活動(dòng)的時(shí)候買(mǎi)了會(huì)員,是平時(shí)的N倍,另外一個(gè)就是我們因?yàn)橐?guī)模大了以后,平臺(tái)可靠性這一塊要求挺高,因此就是說(shuō)這樣一個(gè)背景情況下,對(duì)于我們的基礎(chǔ)知識(shí)架構(gòu)這一塊提出來(lái)一些新的要求,比如說(shuō)要有更快的服務(wù)交換能力,更高的資源利用,還有一個(gè)更靈活的大規(guī)模的管理能力。
剛才前面講到的就是知識(shí)架構(gòu)那一塊需要那些能力的話(huà),那我們通過(guò)什么方法來(lái)解決呢?比如說(shuō)我怎么快速去交付,我怎么樣去彈性提供資源,然后我在想可能大家想的都一樣,通過(guò)云的方法去做,那么做數(shù)據(jù)庫(kù)云去解決這些問(wèn)題。那作為一個(gè)數(shù)據(jù)庫(kù)云架構(gòu),應(yīng)該有靈活的資源彈性調(diào)動(dòng)能力,高效的資源利用率,服務(wù)安全可靠,具備大規(guī)模的服務(wù)管理。
二、數(shù)據(jù)庫(kù)云的銀聯(lián)方案
我們銀聯(lián)這一塊就是在金融行業(yè)里面做開(kāi)源這一塊的話(huà)相對(duì)來(lái)講應(yīng)該是比較早的,我們?cè)?012年的時(shí)候就開(kāi)始做,那個(gè)時(shí)候的話(huà)因?yàn)閿?shù)量比較少,早期的話(huà)我們主要是用手工加一些自動(dòng)化腳本制作的一些運(yùn)維,但是到2014年的時(shí)候,我們生產(chǎn)的Mysql數(shù)據(jù)庫(kù)越來(lái)越多了,那時(shí)候我們就想著做平臺(tái)來(lái)管理那時(shí)候是DBaaS1.0。
但是到了2015年的時(shí)候,也就是當(dāng)時(shí)容器這種技術(shù)出現(xiàn)了,當(dāng)時(shí)我們?cè)谙肴萜鬟@種技術(shù)的話(huà)是不是能夠把數(shù)據(jù)實(shí)現(xiàn)平臺(tái)化,所以當(dāng)時(shí)我們2016年的時(shí)候就做了DBaaS2.0這個(gè)版本,那么這個(gè)DBaaS平臺(tái)我們是基于Docker做的。在這期間我們平臺(tái)主要做了兩個(gè)服務(wù),一個(gè)是做了我們的基于Mysql開(kāi)發(fā)的數(shù)據(jù)庫(kù)。然后我們上面的服務(wù)的話(huà)基本上也是分步策劃的,也能夠做到SCALE OUT彈性擴(kuò)展,這個(gè)是我們目前的現(xiàn)狀大概是2.0的版本,然后我們現(xiàn)在正在做的是智能化自助化的功能。
我們現(xiàn)在這個(gè)版本總結(jié)下來(lái)有這么幾個(gè)特點(diǎn)。第一個(gè)就是自主可控,這個(gè)平臺(tái)所有的開(kāi)發(fā),包括上面提供的數(shù)據(jù)庫(kù)服務(wù),這個(gè)都是我們自己自研的,這個(gè)也是符合我們國(guó)家對(duì)金融安全監(jiān)管的要求的。第二個(gè)就是彈性伸縮實(shí)現(xiàn)了SCALE UP和SCALE OUT。第三個(gè)就是我們高度服務(wù)化,我們把這個(gè)企業(yè)結(jié)構(gòu)進(jìn)行服務(wù)化的一些設(shè)計(jì),我們很快速地把一些數(shù)據(jù)庫(kù)產(chǎn)品進(jìn)行包裝。第四個(gè)的話(huà)就是我們當(dāng)時(shí)是2015年就開(kāi)始做數(shù)據(jù)庫(kù)容器化,我們很早的時(shí)候,2015年的時(shí)候就把這個(gè)做出來(lái)了,而且大規(guī)模地在生態(tài)環(huán)境中用了,用在我們的金融領(lǐng)域,這應(yīng)該在國(guó)內(nèi)的金融領(lǐng)域算是比較早的。
我們平臺(tái)的話(huà)自動(dòng)化和自助化是我們一個(gè)最基本的要求,就是在這個(gè)平臺(tái)上我們所有的操作、運(yùn)維、管理基本上都是做到簡(jiǎn)單。通用性高是在部署方面體現(xiàn),比如說(shuō)我們很多環(huán)境,我們銀聯(lián)有很多開(kāi)發(fā)、研發(fā),部署等等,有的產(chǎn)品做的特別復(fù)雜,部署要好幾天,但是這個(gè)也不好用。
基于docker的DBaaS建設(shè)的幾個(gè)重要難點(diǎn)
容器管理框架
講一下我們當(dāng)時(shí)做那個(gè)容器的框架選擇的時(shí)候?yàn)槭裁次覀冞x的是Swarm。因?yàn)楫?dāng)時(shí)其實(shí)也是面臨兩個(gè)選擇,一個(gè)是用Swarm另一個(gè)是用K8s,但是同樣2015年那個(gè)時(shí)候來(lái)看的話(huà),我們是研究了一下發(fā)現(xiàn)就是說(shuō)做數(shù)據(jù)庫(kù)的話(huà),這兩個(gè)都不能很好地解決我們的問(wèn)題,就是說(shuō)它的原生的一些網(wǎng)絡(luò)架構(gòu)或者一些管理架構(gòu)都沒(méi)法滿(mǎn)足我們的一些需求,所以這兩個(gè)都是要我們定制和開(kāi)發(fā)的,要在我們自己去設(shè)想開(kāi)發(fā),所以我們當(dāng)時(shí)就選了Swarm。
為什么選這個(gè)呢?首先是因?yàn)樗且粋€(gè)輕量級(jí)的,然后可定制性比較高,就是開(kāi)發(fā)相對(duì)難度要小一點(diǎn),所以我們選擇了Swarm,當(dāng)時(shí)來(lái)講Swarm其實(shí)發(fā)展勢(shì)頭還是蠻好的,特別是這兩年發(fā)展的比較好,但是就是到今天為止K8s也沒(méi)有辦法完完全全滿(mǎn)足數(shù)據(jù)庫(kù)容器化的這個(gè)需求,它也沒(méi)有用原生態(tài)去做一個(gè)復(fù)雜的數(shù)據(jù)庫(kù)平臺(tái)網(wǎng)絡(luò)和存儲(chǔ)模型,我們也一直在關(guān)注這個(gè)的發(fā)展。
平臺(tái)網(wǎng)絡(luò)解決方案
這個(gè)是我們技術(shù)上面的一個(gè)解決方案,想跟大家分享一下。首先是網(wǎng)絡(luò)這一塊,那么做容器,做數(shù)據(jù)庫(kù)的話(huà),網(wǎng)絡(luò)這塊是很關(guān)鍵的,你什么樣的網(wǎng)絡(luò)模型那么就用你這個(gè)數(shù)據(jù)庫(kù)的性能。比如說(shuō)我們Docker計(jì)算網(wǎng)絡(luò)模式,你用其他的原生模式去試一下就知道,你會(huì)發(fā)現(xiàn)性能損耗非常大,但如果你不用它,你用其他的那些模式你會(huì)發(fā)現(xiàn)那個(gè)網(wǎng)絡(luò)沒(méi)法做隔離。它怎么樣做到一種方案就是說(shuō)我既能夠把網(wǎng)絡(luò)隔離起來(lái),同時(shí)又能夠把網(wǎng)絡(luò)對(duì)它的性能不受影響,那時(shí)候我們就選擇了一個(gè)方案叫做過(guò)SR_IOV技術(shù),就是把一款物理網(wǎng)卡進(jìn)行虛擬化,現(xiàn)在普通的萬(wàn)兆網(wǎng)卡都可以做到64個(gè)或128個(gè)虛擬卡,那么把這個(gè)虛擬網(wǎng)卡通過(guò)VF方式放入網(wǎng)絡(luò)內(nèi)存,大概具體的做法就是說(shuō)速度之上,把這個(gè)網(wǎng)卡虛擬化了以后,然后通過(guò)Net NS映射給Docker, 雙網(wǎng)卡bonding。VF上還可以直接配置Qos策略,相較于物理環(huán)境下無(wú)損耗,這一點(diǎn)是非常非常可貴的,就是在我們做數(shù)據(jù)庫(kù)容器化的時(shí)候一個(gè)很關(guān)鍵的點(diǎn),這個(gè)方案我后來(lái)也看到了,就是螞蟻金服他們自己以前做的也是這種方案。
平臺(tái)存儲(chǔ)管理解決方案
另外一個(gè)就是存儲(chǔ)這一塊。之前我們用容器平臺(tái)做存儲(chǔ)這一塊大概有兩種選擇,一種選擇是用本地存儲(chǔ),另一個(gè)選擇是分布式存儲(chǔ),那么這兩種方案都有缺點(diǎn),第一個(gè)用本地存儲(chǔ)的話(huà)有一個(gè)很大的問(wèn)題,就是數(shù)據(jù)遷移性的問(wèn)題,你要被通過(guò)備份,這個(gè)是一個(gè)比較耗時(shí)的問(wèn)題。同時(shí)一般本地存儲(chǔ)的空間是比較小的,那它的一兩個(gè)T就沒(méi)了。如果是用的共享存儲(chǔ)的話(huà)有一個(gè)最大的問(wèn)題就是性能問(wèn)題,那有沒(méi)有一種方法就是說(shuō)我們既能夠做到數(shù)據(jù)快速遷移,同時(shí)又滿(mǎn)足存儲(chǔ)隔離,那我們后來(lái)用了金融行業(yè)用的比較多的一種方案,就是用外部存儲(chǔ)。
平臺(tái)服務(wù)-自研分布式數(shù)據(jù)庫(kù)UPSQL
平臺(tái)服務(wù)-自研分布式緩存UPredis
這個(gè)是我們平臺(tái)上第三個(gè)難做的就是說(shuō)你提供的服務(wù)這一塊,你怎么樣做一個(gè)服務(wù)的執(zhí)行的服務(wù)能力。
三、數(shù)據(jù)庫(kù)云建設(shè)的挑戰(zhàn)
DBaaS建設(shè)的風(fēng)險(xiǎn)及應(yīng)對(duì)
前面介紹的是我們做這個(gè)平臺(tái)的過(guò)程當(dāng)中總結(jié)下來(lái)的五點(diǎn)比較關(guān)鍵的一些點(diǎn),其實(shí)也是暴露了我們?cè)谡麄€(gè)過(guò)程當(dāng)中最重要的一些經(jīng)驗(yàn)吧,也是跟大家分享一下。
同時(shí)另外還有一些經(jīng)驗(yàn)跟大家分享一下就是說(shuō)DBaaS其實(shí)也是有很大的投入的,所以先來(lái)分享一個(gè)就是說(shuō)DBaaS不是適合每個(gè)公司都去做,因?yàn)樗€是有一些技術(shù)門(mén)檻在里面,還是有一些投入在里面。
管理這一塊的話(huà)我覺(jué)得一個(gè)概念就是說(shuō)整體上在云環(huán)境下你要有這樣一個(gè)意識(shí),就是任何一個(gè)模塊都是不可靠的,所以你在設(shè)計(jì)這個(gè)平臺(tái)的時(shí)候你要想任何一個(gè)模塊故障的話(huà)是否會(huì)受到影響。包括前面剛才講的補(bǔ)充一下,為什么投入性蠻大的?我們做這些東西其實(shí)銀聯(lián)的話(huà)現(xiàn)在有還算比較大的一個(gè)團(tuán)隊(duì),有30個(gè)人做這件事情,包括做我們定制的數(shù)據(jù)庫(kù),包括做這個(gè)平臺(tái),還是有一點(diǎn)規(guī)模的。
四、發(fā)展及暢想
銀聯(lián)DBaaS產(chǎn)品服務(wù)情況
發(fā)展及暢想
這個(gè)是我們對(duì)這個(gè)產(chǎn)品的話(huà)的一些規(guī)劃,就是說(shuō)現(xiàn)在只是提供了我們分公司的數(shù)據(jù)庫(kù),那么我們接下來(lái)肯定會(huì)進(jìn)一步在上面封裝更多的產(chǎn)品,其實(shí)銀聯(lián)是DB2的使用大戶(hù),那么我們?cè)趺礃影堰@個(gè)服務(wù)擴(kuò)展到這個(gè)平臺(tái)這是非常關(guān)鍵的,也是一個(gè)比較難做的事情。另外一個(gè)就是縱向的,就是平臺(tái)智能化這一塊,我們正在做的一個(gè)事情就是說(shuō)我怎么樣做好這個(gè)智能分析調(diào)優(yōu)。最后是增值服務(wù)方面,我們做數(shù)據(jù)的轉(zhuǎn)移、風(fēng)險(xiǎn)監(jiān)控、大數(shù)據(jù)分析之類(lèi)的。
以上就是關(guān)于銀聯(lián)的pos機(jī)內(nèi)存已滿(mǎn),中國(guó)銀聯(lián)—基于容器的金融數(shù)據(jù)庫(kù)云平臺(tái)DBaaS設(shè)計(jì)實(shí)踐分享的知識(shí),后面我們會(huì)繼續(xù)為大家整理關(guān)于銀聯(lián)的pos機(jī)內(nèi)存已滿(mǎn)的知識(shí),希望能夠幫助到大家!









