基於數學規劃的數據挖掘分類方法研究與應用（簡體書）

數據挖掘是數據庫和信息決策領域的一個理論前沿，是知識發現的核心部分。數據挖掘技術可以快速有效地分析和處理來自組織內外部的大量的數據和信息，從而為組織的預測和決策提供科學依據。《基於數學規劃的數據挖掘分類算法研究及應用》旨在對數據挖掘算法中基於數學規劃的分類模型所面臨的一些問題進行研究。因此，重點分析基於數學規劃的分類模型的研究現狀，並按照分類模型的5個衡量標準，以多目標規劃為主線來研究和改進一些基於多目標規劃的分類模型，如最小二乘支持向量機和多目標規劃分類方法。在實際應用中，把這些模型進行改進使其更加適應當今世界和數據庫技術的發展，從大量的數據中發現更多的知識，不僅要提高分類精度，增強模型的魯棒性，減少計算的複雜度，還要使模型本身更具有解釋性。而且對於分類模型而言，要對大多數的數據庫都能達到這些目標才能算是具有不錯的性能。

1 導論 1．1 本書的研究背景與意義 1．2 本書主要研究內容 1．3 研究方法和研究思路 1．4 本書的創新性 參考文獻 2 基於數學規劃的數據挖掘分類模型研究熱點及應用概述 2．1 數據挖掘分類模型的重要性 2．2 數據挖掘分類模型的發展歷史 2．3 基於數學規劃的分類模型研究熱點及進展 2．4 本書對基於數學規劃分類模型的研究要點 參考文獻 3 數據準備，結果評價及優化工具 3．1 問題的提出 3．2 分類模型的評價方法 3．3 模型參數的優化方法 3．4 數據挖掘常用工具 參考文獻 4 機器學習分類模型改進研究 4．1 問題的提出 4．2 MK-LS-SVM模型介紹 4.3 L1-LS-SVM模型介紹 4．4 基於ES的自適應L1-LS-SVM模型介紹 參考文獻 5 多目標規劃數據挖掘分類模型改進研究 5．1 問題的提出 5．2 MK-MCP模型介紹 5．3 L1-MK-MCP模型介紹 參考文獻 6 知識管理應用——信用風險評價 6．1 引言 6．2 MK-LS-SVM和MK-MCP模型信用風險分析應用 6．3 L1-LS-SVM和L1-MK-MCP模型信用風險分析應用 6．4 基於ES的LP-LS-SVM模型的信用風險分析應用 6．5 五個改進模型信用風險評價結果比較分析 參考文獻 7 知識管理應用——文本分類 7．1 引言 7．2 文本挖掘概念 7．3 文本分類概念 7．4 文本分類器評價指標 7．5 L1-LS-SVM文本分類器性能驗證 參考文獻 8 總結與展望 8．1 總結 8．2 需進一步研究的問題 圖1．1 分類模型過程示意圖 圖3．1 ES算法循環進化示意圖 圖3．2 開源數據挖掘R軟件界面圖示 圖3．3 開源數據挖掘Weka軟件界面圖示Ⅰ 圖3．4 開源數據挖掘Weka軟件界面圖示Ⅱ 圖3．5 開源數據挖掘YALE軟件界面圖示 圖3．6 開源數據挖掘KNIME軟件界面圖示Ⅰ 圖3．7 開源數據挖掘KNIME軟件界面圖示Ⅱ 圖3．8 開源數據挖掘Orange軟件界面圖示Ⅰ 圖3．9 開源數據挖掘Orange軟件界面圖示Ⅱ 圖4．1 線性可分類示意圖 圖7．1 各個類的分類結果比較 表4．1 三個UCI數據庫基本信息 表4．2 多核最小二乘支持向量機在三個數據庫上的平均測試結果 表4．3 三種方法在三個數據庫上總分類精度試驗結果比較 表4．4 模型在四個LICI數據庫上的平均測試結果 表4．5 L1-LS-SVM模型應用不同的正則化參數y時的平均測試結果(□-5000) 表4．6 在不同的核參數下的L1-LS-SVM模型的平均測試結果(y-2□) 表4．7 四種模型對於四個醫學數據庫分類測試結果比較 表4．8 基於ES的自適應LP-LS-SVM模型在四個IJCI數據庫上的平均測試結果 表4．9 基於ES的自適應LP-LS-SVM在數據庫：PIMA上對應于不同範數值的分類精度(第三次第2階試驗) 表4．10 與其他流行機器學習方法比較結果 表5．1 多核多目標規劃在三個數據庫上的平均測試結果 表5．2 四個模型的試驗結果比較分析 表5．3 L1-MK-MCP模型在四個UCI數據庫上的平均測試結果 表5．4 多個流行模型對相同數據庫的平均總分類精度比較 表6．1 三個信用卡數據庫的詳細信息 表6．2 MK-LS-SVM與其他三個相關模型的平均試驗結果比較表6．3 □值變化時所選出的具體特徵 表6．4 參數□變化時MK-LS-SVM的測試結果 表6．5 不同模型在同一數據庫上的平均測試結果比較 表6．6 六個模型在兩個信用卡數據庫上的平均試驗結果比較 表6．7 MK-MCP模型每一階的試驗結果 表6．8 五個模型應用在實際信用庫中的測試結果比較 表6．9 五個模型在兩個ucI信用庫上的測試結果比較 表6．10 正則化參數變化時L1-LS—SVM模型的測試結果(□=1 000) 表6．1l 六個信用分析模型的測試結果比較 表6．12 L1一MK—MCP模型與其他五個模型在兩個UCI信用庫上的平均測試結果比較 表6．13 六個相近模型在美國商業銀行數據庫上的平均測試結果比較 表6．14 基於ES的L1-LS-SVM模型在三個信用卡數據庫上的平均測試結果表6．15 六個相近模型在兩個UCl信用庫的平均測試結果比較 表6．16 七個信用分析模型在美國商業銀行信用庫上酌測試結果比較 表6．17 本文五個模型在三個信用卡數據庫上的測試結果比較 表7．1 實驗數據