制造業(yè)是一個古老而悠久的行業(yè),它的起源最早可追溯到石器時代。從新石器時代簡單的工具,到今天復雜的智能工廠,制造業(yè)歷經千年發(fā)展,蛻變成了由技術驅動的創(chuàng)新行業(yè),充滿各種自動化流程、始終互連的設備和數據豐富的流程。
“離散型”制造業(yè)面臨數據挑戰(zhàn)
在制造業(yè)中,通常有著“流程型”和“離散型”兩種區(qū)分。“流程型”是指被加工對象不間斷地通過生產設備,通過一系列的加工裝置使原材料進行化學或物理變化,最終得到產品。典型的流程生產制造業(yè)有醫(yī)藥、化工、石油化工、電力、鋼鐵制造、能源、水泥等領域。“離散型”制造,則是指材料的生產過程通常被分解為多項加工任務。典型的離散制造行業(yè)主要包括機械制造、電子電器、航空制造、汽車制造等行業(yè)。
在整個離散制造業(yè)的現場有著太多的生產、物料、工藝以及人員數據。以前,離散制造業(yè)往往只能通過人工上報、手動填單等方式來進行數據收集。對于管理層而言,這些數據往往是不透明的、不準確的,或是滯后延遲的。離散制造企業(yè)本身從業(yè)務到管理,都亟需通過數字化進行優(yōu)化和提升。
如何解決“離散型”制造業(yè)的數據挑戰(zhàn)?
工業(yè)數字化軟件供應商數益工聯,致力于打造基于“數據流+價值流”的離散制造業(yè)數字化軟件。數益工聯團隊以IE+IT為核心能力,實現產品和技術的雙輪驅動,已在十多個行業(yè)落成全球領先的數字標桿工廠公司。公司至今已獲得華創(chuàng)資本、高瓴創(chuàng)投、元生資本等知名機構的風險投資,累計融資額數億元,在上海、蘇州、廣州三地設有子公司,打造跨區(qū)域全國服務平臺。
數益工聯數字工廠系統(DFS,Digital Factory System)應用新一代的物聯網技術與豐富的現場交互手段,獲取工廠現場最實時、最真實、最有效的數據,不僅包含設備狀態(tài)、設備異常數據、設備生產數據等設備 IOT 數據,還包含人員的交互使用數據,如計劃報工、工藝、倉儲物流、質檢等核心生產管理業(yè)務的數據等。對管理層而言,通過數益工聯數字工廠系統,可以直觀看到清晰、直接的報表,從中發(fā)現數據的價值,繼而深入分析并采取行動,優(yōu)化制造現場。
數益工聯數字化工廠架構面臨的挑戰(zhàn)
數益工聯數字化工廠架構圖
從架構上看,數益工聯數字化工廠主要分為四層:
第一層為物聯層,包括硬件和軟件兩部分。硬件主要為數益工聯自研的智能終端,軟件包括邊緣應用和物聯平臺。其中應用主要具備設備參數的采集、人臉識別等功能,以上應用均運行于智能終端。物聯平臺則主要承擔設備管理、配置和升級的相關工作。
第二層為應用層,包括 IOT 數據服務、核心服務、低代碼平臺。IOT 數據服務是接受物聯上報數據,計算設備開機率,異常等設備相關的服務,同時也是其他業(yè)務的數據源頭;核心服務包括了計劃報工、質量等數字化工廠服務;低代碼平臺主要包括了報表的可視化平臺、流程編排等功能。
第三層為大數據層,分成了大數據和算法兩個部分。大數據應用包括了成本控制、APS、工藝大數據;算法包括了人臉識別、時序分析等算法。
第四層為基礎架構層,作為基礎設施提供其他業(yè)務使用。主要包括了存儲、數據庫、中間件和云原生等部分。
數字工廠的數據源頭主要包括兩部分:
第一部分是 IOT 事件,包括了設備的開關機,物聯采集、異常等數據,這部分數據通過 mqtt 上傳到 IOT 服務進行處理,同時會推送到隊列中,方便后續(xù)的計算和存儲;
另一部分是業(yè)務產生的數據,包括了計劃報工、上下班等產生業(yè)務數據,主要通過 http 進行上傳和展示。業(yè)務數據會直接存放到數據庫中,同時將數據推送到隊列中。
數據存儲主要采用了 TiDB 和 Starrocks 兩個數據庫,除了時序相關的數據,業(yè)務數據都存放在了 TiDB 中。
隨著數益工聯業(yè)務規(guī)模的不斷增長,數據量變得愈發(fā)龐大,對于數據庫的穩(wěn)定性也提出了更高的要求:
1、多數業(yè)務數據需要支持秒級延時,因此需要數據庫具有很高的并發(fā)能力;隨著業(yè)務的增長,數據量也會越來越大,需要數據庫具有良好的拓展性;
2、隨著數據量的增大,報表制作成本和難度變大,無法保證實時性。
為解決業(yè)務系統的性能瓶頸,提高數據庫的性能問題,數益工聯選擇了 TiDB 這一新型分布式數據庫實現重構。
數益工聯研發(fā)團隊在實踐過程發(fā)現,TiDB 許多優(yōu)勢正好可以滿足數益工聯的需求:
TiDB 兼容性強,在實踐的過程中幾乎沒有遇到過不兼容的問題,除了少數默認編碼的問題。
支持云原生部署,可以通過 Kubernetes operator 來快速部署TiDB集群,具有完善的配套監(jiān)控功能。
能夠實現自動化水平擴容,支持高可用,運維無需手動接入,極大地降低了運維成本。
支持 AP,TiDB 支持 TiFlash,降低部署復雜度,TiFlash 在億級別數據的查詢中,通常能達到 5 倍的加速。
TiDB如何助力數益工聯挖掘價值數據?
那么,數益研發(fā)團隊是如何使用 TiDB 實現對于工業(yè)數據的價值挖掘的?以工廠運轉效率的重要指標設備開機率為例,對于工廠而言,設備的開機率與生產效率息息相關,能否實時獲取開機率,機器是否實現了高效且合理的運轉非常重要。數益工聯團隊通過 TiDB 實現了以下功能:
開關機記錄:一條開機記錄表示記錄單個設備的一次開機時間和關機時間。這種記錄表,由于數據量過大,現在主要放在ES中。
開機率:表示在一段時間內的開機時間的占比,延時需要精確到秒級,這種數據現在轉換成時序的數據存放在 Starrocks,同時創(chuàng)建物化視圖,加速時間跨度大的查詢。
但隨著時間增長,團隊也遇到了以下問題:一是開機記錄和開機率數據不同源,導致數據容易不一致;二是Starrocks 存儲量大,占用了大量的計算和存儲資源。
因此,數益工聯數據團隊對于開機率進行了第三次改造:Starrocks 不再保存開機率的時序數據。時序數據量比較大,容易出現異常,導致數據不一致。數益工聯一方面將開機記錄存放在 TiDB 中;另一方面通過開機記錄來計算出開機率。
原先 ES 同步寫入容易引發(fā)業(yè)務寫入超時的問題,這次改造解決了 ES 數據寫入延時的問題,同時,也減少了 Starrocks 的存儲資源的占用。這次改造使得在在100 臺設備的應用場景中,一年能減少百 GB 級別的Starrocks 存儲;充分利用了 TiDB 的 HTAP 能力,通過 TiDB 的 HTAP 直接對開機記錄進行聚合查詢,降低了業(yè)務復雜度,給業(yè)務開發(fā)提供了很大的便利性。目前,TiDB 在線上運行表現十分穩(wěn)定。
改造 TiFlash,實現 TiDB 物化功能
與此同時,數益工聯研發(fā)團隊也在進行一些定制化的改造。由于業(yè)務需要支持任意時間段查詢開機率的能力,因此需要按天對數據進行預聚合,但TiDB 不支持物化能力,需要借助業(yè)務邏輯來實現,加大了業(yè)務實現復雜度。隨著業(yè)務預聚合的需求越來越多,數益工聯研發(fā)團隊決定對 TiFlash 進行改造,實現 TiDB 物化功能:
1、每個基表根據物化語句生成物化表。
2、基表以分區(qū)為粒度進行聚合,當數據到達一定時間的策略的時候,會把整個分區(qū)進行聚合,放到物化表分區(qū)中。
3、查詢引擎自動判斷是否使用基表分區(qū)還是物化分區(qū)。
4、在和Tiflash團隊的交流中發(fā)現,需要解決重復計算的問題,因此數據需要多副本去重計算。
目前,在數益初步的單副本測試中,雖然還存在一些問題需要修復,但能看到 TiFlash 的物化功能展現了很大的潛力,相信將在未來多業(yè)務場景下發(fā)揮重要作用。
數據庫在制造業(yè)中扮演著至關重要的角色,它們?yōu)楣S提供了強大的信息管理能力,幫助工廠更好地挖掘數據的價值。TiDB 可以幫助制造業(yè)處理海量數據,提供高效的查詢性能,我們也期待幫助更多制造業(yè)用戶完成數字化轉型,從而提升企業(yè)的競爭力與效率。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )