浅谈对历史频谱数据的数据挖掘

国家新闻出版广电总局五五三台自1955年建立伊始就承担着我国广播监测的繁重任务,60多年来频谱负荷收测一直是我台的主要工作之一,经过台内几代收测人员的辛勤劳动,我台现存放着自上世纪50年代至今的海量频谱原始数据,包括国内中央台广播数据,以及大量我台能够收测到的海外对华广播及途径我台的海外广播,所涉电台、语种数目都极其庞大。通过合理利用这些数据,我们将能够得以从中窥探出世界广播发展、变革的轨迹,进而对我国目前的频谱资源管理提供有价值的信息和解决方案。然而,要达到这一目标,首先要解决如何从巨大体量的数据中挖掘有用信息和知识这一难题。

一、基于大数据的数据挖掘技术

(一)大数据的定义

(二)基于大数据的数据挖掘技术

二、对历史频谱数据的数据挖掘

(一)频谱资源和频谱资源管理

无线电频谱是一种非常宝贵且有限的自然资源,是属于国家的重要战略性资源。近年来,无线电频谱需求不断增加,频率冲突越来越严峻,给频谱资源的监测和管理带来了新的困难与挑战,对无线电频谱的监测与管理是有效使用无线电资源的前提,因此,如何开展对信道和频段使用情况的有效监测,记录全频段和全时段内所有信号的基础数据,掌握用频变化,评估信道占用度和利用率,把握频谱的整体使用情况,提高频谱感知与管理能力成为亟需解决的问题。

频谱资源管理是指对无线电频谱资源的使用进行规划与控制的活动,而无线电频率管理是无线电频谱管理的核心。为了对频谱资源进行合理的管理,我们不但必须掌握现阶段的用频情况,也需要对以往的频谱数据进行分析,掌握一段时期内的用频变化,以此来对下个阶段的无线电频率划分进行决策。

(二)历史频谱数据挖掘的过程模型

对于数据挖掘项目首先要建立过程模型,这里运用美国SPSS公司提出的5A模型,即评价需求(Assess)、存取数据(Access)、完备分析(Analyze)、模型演示(Act)、结果展现(Automate),来对历史频谱数据挖掘进行过程分析。

1.评价需求

通过对海量历史频谱监测数据的深入挖掘与分析,采用形式多样、丰富的统计方法,我们可以以文本、图片等多种形式提供直观、有效、全面的历年频谱资源展示,从而为目前的频谱资源管理提供综合性决策依据。我台频谱负荷收测主要涉及中短波广播业务,故此项目主要针对中短波广播频段频谱数据进行数据挖掘。

2.存取数据

利用Hadoop数据挖掘构架实现海量数据的快速存取,主要包括了大规模数据分析工具Pig、数据仓库工具Hive、分布式编程框架MapReduce、数据状态存储HCatalog、分布式数据库Hbase以及分布式文件系统HDFS等。

3.对历史频谱数据的分析

(1)频谱占用度分析

(2)已知电台分析

已知电台分析是以已知晓的各国际国内电台作为分类,在横向、纵向上对该台在我收测点附近的,可收测到的播音情况进行统计分析。通过电台分析,可以得知某一电台的播音总体变化,包括用频变化(点阵图或柱状图显示)、历年频时数变化(折线图显示)等等。同时,按照国家、地区、使用语言(节目内容)等对电台进行分类。建立数据字典,将某一台曾使用过的台名、归属、发射地进行统一录入,方便在统计分析数据时保持完整性。

(3)使用语言分析

使用语言分析是对已知电台所播的语言种类进行统计分析。通过对各台各频率使用语言的统计筛选,可以对以我国作为主要播向区的电台频率做进一步分析,包括用频变化(点阵图或柱状图显示)、频时总数变化(折线图显示)、发射方向图展示等等,对我们把握此类电台频率的整体变化趋势有着重要的作用。

(4)未知电台、语言分析

我台的历年频谱数据中,包括了一部分未知电台以及未知语言的频率。这一部分频率在频谱负荷表中以“?”表示,大多为能够收听到播音但无法通过播音内容或国际资料确定电台归属或播音语言的频率。对该类频率,可以通过对已知电台频率的数据分析,判断其可能的归属及播音语言。

4.频谱资源挖掘模型

数据挖掘的任务模式按照功能类型可以分成描述型和预测型两类,描述型任务一般用来刻画数据的常用特征,预测型任务则通过分析目标对象的模式和规律,对未来趋势做出合理判断。在频谱数据任务中,对历史频谱数据的分析可以归为描述型,而通过对未来频谱资源分配走向的分析则应归为预测型。

将任务进行分类后,需要将各个任务归纳入某一模型类型中。数据挖掘模型可以概括为三大类:聚类、分类、关联。聚类分析旨在发现不同的簇间的差异性;分类是将历史数据按照用户的需求进行区分;关联分析则是重在挖掘两个不同关键词的内在共性。对历史频谱数据的数据挖掘可以归为分类模型。

5.数据结果可视化展现

项目最终能够通过快捷全面的前端展示平台,快速显示历史频谱数据挖掘结果,以及对未来各电台频率变化走势的分析结果,让数据以更为灵活、直观、可视化的方式表达出来。展示平台主要应能实现:3D频谱、频谱数据地域性展示、统计数据多样化展示等。

三、结束语

无线广播频谱监测与管理系统通过对大量实测数据的分析,能够直观的向用户展示各项历史数据、频谱占用情况、非法电台等大数据背后的信息,这些对频谱资源的分析、合理利用正是我们搭建无线广播频谱监测与管理系统的最终目标。而如何在庞大的数据中更高效地进行对数据的甄别、挖掘,从而向用户提出有用、合理的频谱资源问题的解决方案,是我们亟待解决的问题。

THE END
1.数据挖掘概念(AnalysisServices与以下关系图的突出显示相同,数据挖掘过程的第一步就是明确定义业务问题,并考虑解答该问题的方法。 该步骤包括分析业务需求,定义问题的范围,定义计算模型所使用的度量,以及定义数据挖掘项目的特定目标。这些任务转换为下列问题: 您在查找什么?您要尝试找到什么类型的关系? https://technet.microsoft.com/zh-cn/library/ms174949(en-us,sql.105).aspx
2.数据挖掘步骤:从数据准备到结果解读!3、数据建模 在数据探索之后,我们需要建立数据模型。数据模型是对数据的特征和规律进行数学建模的过程,它可以帮助我们更好地理解数据。常用的数据挖掘算法包括聚类分析、决策树、神经网络等。在选择算法时,我们需要根据具体的业务场景和问题选择合适的算法。4、结果评估 建立好模型之后,我们需要对结果进行评估。评估的https://baijiahao.baidu.com/s?id=1783952876201025555&wfr=spider&for=pc
3.数据挖掘的过程包括:()。数据挖掘的过程包括:()。 A.问题定义 B.数据准备和预处理 C.数据挖掘 D.结果解释和评估 E.以上全部 点击查看答案进入题库练习 查答案就用赞题库小程序 还有拍照搜题 语音搜题 快来试试吧 无需下载 立即使用 你可能喜欢 多项选择题 服务价值包括()。 A.产品介绍 B.送货 C.维修 D.调试 E.技术 点击https://m.ppkao.com/mip/tiku/shiti/9021272.html
4.数据挖掘包括()等处理过程数据挖掘包括()等处理过程A.数据准备B.数据挖掘C.模式模型的评估与解释D.信息巩固与应用的答案是什么.用刷刷题APP,拍照搜索答疑.刷刷题(shuashuati.com)是专业的大学职业搜题找答案,刷题练习的工具.一键将文档转化为在线题库手机刷题,以提高学习效率,是学习的生产力工具https://www.shuashuati.com/ti/20ad9e3f8beb42a59c2102cbe09f96f0.html
5.数据挖掘的步骤包括什么数据挖掘是一个通过特定算法对大量数据进行处理和分析,以发现数据中的模式、趋势或关联性的过程。下面详细介绍数据挖掘的步骤包括什么? 1、数据收集 首先,需要收集与待挖掘主题相关的数据。可能涉及从各种来源(如数据库、文件、网络等)获取数据,并将其清洗、整合到一个统一的格式中。 https://www.pxwy.cn/news-id-81213.html
6.数据挖掘过程中可能遇到的问题有哪些?数据挖掘过程中可能遇到的问题包括数据质量问题、特征选择问题、过拟合问题、模型选择问题、大数据处理问题等。 数据质量问题:数据可能存在缺失值、异常值、重复值等,需要进行数据清洗和预处理,以确保数据质量。 特征选择问题:在数据挖掘过程中,需要选择对目标变量有显著影响的特征,避免过多的无关特征对模型性能造成负面https://www.mbalib.com/ask/question-df39a895afe6da9867c321c7fda416b2.html
7.数据挖掘的流程包含哪些步骤?数据挖掘是从大量数据中挖掘出有用的信息和模式的过程。它涉及多个步骤,从数据收集到模型评估。以下是数据挖掘的常见流程步骤: 理解业务目标:在进行数据挖掘之前,需要明确业务目标和问题。确定要解决的问题以及所需的结果有助于指导整个流程。 数据收集:在这一阶段,需要收集与业务目标相关的数据。数据可以来自各种来源,https://www.cda.cn/view/202981.html
8.数据挖掘的六个步骤有哪些帆软数字化转型知识库数据收集与准备是确保数据挖掘项目顺利进行的关键步骤。在这个阶段,数据科学家需要从各种内部和外部来源收集数据。内部数据可能包括企业的销售记录、客户信息、财务数据等;外部数据则可能来自市场调研、社交媒体或第三方数据提供商。数据收集后,接下来的任务是数据整合,即将不同来源的数据进行统一和合并。在数据整合过程中,https://www.fanruan.com/blog/article/594251/
9.数据分析的过程主要包含这7个方面数据分析的过程是循序渐进的过程,主要包括如下7个方面。 一个完整的数据分析的过程,应该包括数据采集、数据存储、数据提取、数据挖掘、数据分析、数据展现、数据应用七个方面。今天我们就来从这几个角度着手,简要介绍一下数据分析的过程。 1. 数据采集 数据采集的意义在于真正了解数据的原始面貌,包括数据产生的时间、条https://www.jiushuyun.com/hywz/2061.html
10.数据挖掘在生产物流过程中的应用论文目前,数据挖掘的主要研究方向包括更高效率的挖掘算法、专用挖掘系统以及挖掘结果可视化的实现等方面。这些技术能力的提高,不仅能够在数据挖掘过程中获得更多的有效信息,还能提高数据挖掘的适应能力,扩大其运用范围,实现数据挖掘过程的逐步深化。 四、结束语 数据挖掘在生产物流过程中发挥了重要的作用。随着经济的不断发展,https://biyelunwen.yjbys.com/fanwen/jiaotongwuliu/714954.html
11.终于有人把数据挖掘讲明白了数据挖掘的具体过程描述如下: 1)数据:进行数据挖掘首先要有数据,可以根据任务的目的选择数据集,并筛选自己需要的数据,或者根据实际情况构造自己需要的数据。 2)预处理:确定数据集后,就要对数据进行预处理,使数据能够为我们所用。数据预处理可以提高数据质量,包括准确性、完整性和一致性。进行数据预处理的方法有数据清https://www.51cto.com/article/698009.html
12.数据挖掘论文范文8篇(全文)(2) 挖掘数据算法的选择问题; (3) 软件的开发者该如何选择数据。 1 在软件工程中数据挖掘的主要任务 在数据挖掘技术中, 软件工程数据挖掘是其中之一, 其挖掘的过程与传统数据的挖掘无异。通常包括三个阶段:第一阶段, 数据的预处理;第二阶段, 数据的挖掘;第三阶段, 对结果的评估。第一阶段的主要任务有对数据https://www.99xueshu.com/w/filedo12vrm4.html
13.数据挖掘与分析理论数据挖掘的过程主要包括:定义商业问题、建立数据挖掘库、确定分析的内容、准备数据、建立模型、评价模型和实施。 5.1 定义各种商业问题 对业务问题和数据挖掘的目标进行明确的定义,例如从整体上分析市场的结构和发展的趋势,或者从微观的角度分析客源的结构。 http://www.360doc.com/content/22/1227/12/7288840_1061572250.shtml
14.数据仓库与数据挖掘技术—数据挖掘分类及过程模型信息摘要:一种自动编制文摘的技术,即利用计算机将一篇文章浓缩成一篇短文的过程。 信息抽取:根据一个事先定义好的、描述所需信息规格的模板,从非结构化的文本抽取相关信息的过程。 元数据挖掘:对元数据进行的挖掘,例如,对文本元数据的挖掘。文本元数据可以分为两类,一类是描述性元数据,包括文本的名称、日期、大小、https://www.jianshu.com/p/da25173289b9
15.一文搞懂!商业数据分析全流程为了使数据挖掘过程更加规范化、系统化,出现了一些数据挖掘流程模型,CRISP-DM即是其中的一种优秀代表。CRISP-DM全称为CRoss Industry Standard Process for Data Mining(跨行业数据挖掘标准流程),如图1.2所示,这个流程模型将整个数据挖掘过程划分为六个主要阶段:业务理解、数据理解、数据准备、模型建立、模型评估和结果部https://www.niaogebiji.com/article-606353-1.html
16.数据分析报告范文(通用13篇)⑤假设数据模型。 ⑥ 实际数据挖掘工作(data mining)。 ⑦ 测试和验证挖掘结果(testing and verfication)。 ⑧ 解释和应用(interpretation and use)。 由上述步骤可看出,数据挖掘牵涉了大量的准备工作与规划工作,事实上许多专家都认为整套数据挖掘的过程中,有80%的时间和精力是花费在数据预处理阶段,其中包括数据的净化https://www.unjs.com/fanwenku/260833.html
17.数据分析报告(精选15篇)⑤假设数据模型。 ⑥ 实际数据挖掘工作(data mining)。 ⑦ 测试和验证挖掘结果(testing and verfication)。 ⑧ 解释和应用(interpretation and use)。 由上述步骤可看出,数据挖掘牵涉了大量的准备工作与规划工作,事实上许多专家都认为整套数据挖掘的过程中,有80%的时间和精力是花费在数据预处理阶段,其中包括数据的净化https://www.ruiwen.com/fenxibaogao/8204699.html
18.什么是数据挖掘和KDD·MachineLearningMastery博客文章翻译在这篇文章中,您了解到数据挖掘是从数据中发现模式。您了解到,这是一个由许多步骤组成的过程,包括数据准备,算法运行和结果表示。 您了解到机器学习是数据挖掘中使用的工具,数据挖掘实际上是数据库或KDD中知识发现过程中的一个步骤,并且它已经成为术语的同义词,因为它更容易说。 https://www.kancloud.cn/apachecn/ml-mastery-zh/1951996
19.保姆式GEO数据挖掘演示写在前面 模拟1000行代码不如实操训练,重现文章中的数据才是学习GEO数据挖掘的最好途径,基于以上精神,我们就来重现一下高分文章的数据挖掘过程。 至于为什么选择这篇文章,是因为我还是个GEO数据挖掘的小白https://m.wang1314.com/doc/webapp/topic/20967139.html