前言:我们精心挑选了数篇优质大数据互联网论文文章,供您阅读参考。期待这些文章能为您带来启发,助您在写作的道路上更上一层楼。
1.互联网融资平台的技术优势。首先,传统信用评级使用的数据,主要是来自于企业在各类生产运营活动结束后汇总、记录的运营数据,这些数据多以文件或电子文档的形式存在。比如从企业财务报表可以获得财务数据,从季报、年报等可以获得销售数据,从仓库台账可以获得存货数据等。而利用大数据技术,则不局限于生产运营结束后,从运营前的准备过程、运营中的操作过程都可以收集到数据进行信用分析,数据的形式从文本扩展到音频、图片、视频等多媒体形式,收集的范围也从企业文件扩展到各种存储媒质、互联网网页上、电商网站的后台数据库中,甚至社交软件的聊天记录里,从运营大数据扩展到交易大数据、交互大数据,因此包含的内容也更加丰富,不仅包含传统评级必需的“硬信息”,也包含丰富的“软信息”,从而形成实现对企业的全面、实时、动态性信用评级的基础。其次,在获取到这些信息后,需要在云计算下利用大数据机器学习技术进行数据挖掘和知识发现,这需要有软件和硬件良好的结合与支持。互联网平台能够为云计算和大数据机器学习提供这种对接通道。由此可见,利用人力资源进行信用评级的传统做法在信用大数据下就不再适用,而必须在一个组织规范的互联网平台上才能进行,因此通过互联网平台进行信用评级是技术上的必然要求。
2.互联网融资平台的规模经济优势。进一步,通过互联网平台进行信用评级,较之传统信用评级方式能实现规模经济优势。由于传统的信用评级方式需要贷前调查,贷中跟踪,贷后审计,存在较高的成本,如果融资额度不够大,会使贷款利润较低。而互联网平台在设计、运营和管理等方面的投入具有固定成本的性质,总成本不随评级企业的数目变化而发生显著变化,单个企业分摊的成本却越来越小,从而实现信用评级的规模效应。此外,通过互联网技术能对企业进行实时监测,一旦企业出现危险的信号和行为,会即时预警,提升信用评级的预判性,能够增加信用评级的深度。同时,将经营成熟的互联网融资平台的数据库在监管机构的管理下实现联网,进而建立起面向全社会的信用体系,能够增加信用评级的广度。由于依托互联网融资平台进行大数据信用评级,可以实现传统信用评级下不能或不愿提供的融资业务,从而使其成为互联网金融的基本运作方式。
二、基于大数据建立互联网融资平台的信用评级模式
1.互联网融资平台的运作模式。对于互联网融资平台的运作模式,从不同的角度可以进行不同的划分。比如,从运营形态上,可以分为:(1)电商平台模式,如阿里小贷、京东京宝贝;(2)网上超市模式,如陆金所、各家商业银行的网上银行;(3)P2P模式,如人人贷、拍拍贷;(4)众筹模式,如众筹之家。从资金的来源上,可以分为:(1)平台提供资金,如阿里小贷、京宝贝;(2)平台担保,银行提供资金,如京东的供应链金融;(3)平台利用吸收的资金提供贷款,如各家商业银行的网上银行;(4)平台做信用评级,撮合投资者和资金需求方进行融资交易,如各家P2P。尽管这些互联网融资平台的运作方式不同,但都需要对客户的融资需求进行信用评级,因此是否具有成熟可靠的信用评级技术,有效控制信用风险,成为互联网融资平台的核心竞争力。
2.互联网融资平台信用评级的模式。当前互联网融资平台的信用评级模式按评级信息的来源划分,主要可以分为三种模式:(1)基于运营大数据的信用评级。该模式多用于各商业银行的网上银行,以及P2P网贷平台、众筹平台上,其中尤以P2P最为活跃,面对的客户为个人及小微企业这一类低信用水平群体,融资金额从几千元到上百万,很大程度上弥补了信息不对称情况下传统金融机构不愿意对该类群体提供融资服务的空白,因此处于快速发展阶段。(2)基于交易大数据的信用评级。该模式多用于成熟的电商平台提供的融资服务中,如阿里小贷、京东的京宝贝等。这一类融资平台最近几年随电商市场的发展也保持着良好的发展态势,市场份额上升的很快。(3)基于交互大数据的信用评级。该模式目前多用于一些提供个人贷款服务的互联网平台上,知名的企业有ZestFinance和WeCash闪银。这类融资平台目前还处于萌芽阶段,但可预见,未来基于交互大数据的信用评级会逐渐成为信用评级的主要方式信贷,会逐渐从个人及小微企业贷款发展到对大企业贷款。由于不同信用信息的来源、属性不同,导致各类融资平台评级时在指标设计、数据收集、数据分析、数据运用过程中采取的方法都不尽相同。但信用评级的基本流程是相同的,只是在一些步骤的实施过程中,受信息属性的决定而使用不同的评级技术。
三、基于大数据互联网融资平台信用评级的实施策略
1.信用评级的流程设计。大数据信用评级的流程可以用图1表示。由图1可见,实施大数据评级,第一步是对待评项目的理解。首先要掌握项目运营方式、客户特点、市场状况、风险构成等项目内容;其次根据对项目内容的理解设计项目计划,包括安排项目可行的技术路线,制定项目的进度等;再次,待项目计划安排好之后就要确定大数据的来源,因为大数据来源虽然众多,但会受到各种限制,如有的可能过于昂贵,有的则不开放,必须选择那些技术上与经济上均可行的作为数据源。因此,需要基于对项目的理解做好这些在项目正式实施前的准备事项。第二步是准备数据。所做工作是:根据数据的来源,确定数据的类型,采取可行的数据收集技术,获取大数据;很多数据存在不完整、重复、错误等缺陷,要对数据进行预处理;预处理后的数据如果属于非结构化或半结构化数据,需要进行格式化,转化为结构型数据,为实施下一步骤做好准备。第三步就是进行机器学习。首先是选择合理的数据挖掘技术对数据进行分析,从中寻找关联关系,其次是解读和评估数据挖掘的结果,找到最合理或最有说服力的,实现知识发现;最后就是根据知识发现的内容,建立适用的信用评级模型。第四步就是实施评级。根据知识发现的模型,开展对被评级对象的信用评级,生成评级报告,并对结论进行分析,帮助客户理解评级结果。最后对整个项目的运行做全面总结。在以上各个步骤中,技术上的重点和难点在于数据准备过程中的大数据转化与机器学习过程中的大数据挖掘。大数据转化的困难在于需要把各种各样的非结构化半结构化数据转化为可以被机器处理和学习的结构化数据,大数据挖掘则在于需要对数据进行理解,选择最合适的数据挖掘技术实现知识发现。
2.信用评级的实施路径。信用评级的实施路径可以分为内容计算和流计算。首先是内容计算。内容计算多采取主动方式获取数据,方法是设置好信用信息源和信息采集时间段,针对信息源的原始信息格式,设计支持多协议的上站机,每隔一段时间对特定的信息源进行查询,遇到新内容则马上采集过来,再用于下一步的数据转化和挖掘。其次是流计算。流计算多采取被动方式,一般用于处理融资平台上的流数据,具体做法是,后台流程设计中在不同的数据流入环节设置不同类型的数据接入接口,及对接的流计算平台,流计算平台负责设置相应的处理规则,根据预设规则将流入的各类数据转化成可以直接分析的结构化数据,从而实现实时的业务分析与判断。
四、基于大数据互联网融资平台信用评级风险管理策略
互联网融资平台在进行信用评级及提供资金时,处于风险管理重心的是对信息技术风险的控制。由于大数据自身的“4V”特性,且数据中包含的又是大量的用户隐私信息,这使得信息技术风险主要产生在两方面:一方面是大数据存储的安全性风险,另一方面是大数据的收集和使用过程中对公民隐私权的侵犯风险,因此如何确保大数据的存储安全及在使用时的隐私保护是一个挑战,前者涉及到技术安全层面,后者涉及到制度安全层面。在技术安全策略层面,可以采取的措施有:首先,应依托大数据加密技术对使用的数据实施加密管理,制定出完整的加密保护方案,包括数据密级的设定、加密技术的选择、对密码安全性的攻击测试等;其次,严格网关管理,可以对不同类型的用户制定不同的权限级别,严格控制访问权限;最后,建立面向全平台的数据实时监测引擎,第一时间对各类非法操作发出警告。在制度安全策略方面,在当前尚无明确立法规范的环境下,要积极进行宣传和游说,获得政府主管部门和社会舆论的重视和支持,争取早日出台规范的数据获取及共享标准,互联网融资平台的设计、管理和风控标准,从而把可能出现的信息技术风险限制在可控范围内。
五、结论和展望
美国《大数据研究和发展计划》中指出:“到2020年,全世界的数量存储量将达到35ZB,一个大容量、高速度、高智能的大数据时代已来临。”大数据(BigData)是继云计算、物联网之后IT产业又一次颠覆性的技术变革。近年来,随着大数据技术的发展,也为农产品流通带来了新的契机。对于实现资源整合、优化农产品流通结构、提高流通交通具有重要的意义。
(一)互联网大数据的应用有利于发挥农产品流通的规模经济效应
大数据时代,实现了云计算服务器与物联网技术的结合,在利用大数据的“海量数据(MassiveData)、大规模数据(VeryLargeData)、高速性(Velocity)、多样性(Variety)”的优势,使得“新一代互联网、物联网”有了更广阔的载体和平台,拥有了更大的发展空间。在传统的农产品流通过程中,虽然也使用了信息化管理,但是受信息存储容量的有限性和物理介质的不确定性影响,使得数据处理存储受到掣肘;而在大数据的新媒体时代,具有更加强大的计算能力,以及更加海量的存储介质,相关农产品流通的数据不仅可以存储在计算机上,同时也可以存在互联网云服务器上,使得在农产品物流信息存储过程中可以完全不必在乎存储空间的大小,更好地提高了信息处理效能。这些都为农产品流通的整体布局、规划、调度带来了新的机遇,有利于通过扩大流通的规模,实现农产品资源的优化配置。利用大数据技术,可以将农产品流通系统进行改造,将无数“散户”信息进行整合,进行物流产业“集群”的打造,对市场信息进行及时掌握,实现农产品流通效率的提升。
(二)互联网大数据的应用有利于发挥农产品流通的供应链驱动效应
农产品的流通不是一个单一的事件,而是系统化的过程,涵盖了“农产品的生产、集散、仓储、批发、零售、终端消费者”等各个环节。而大数据时代农产品流通的管理方式发生了深刻的变化。大数据有利于实现“农产品的生产、集散、仓储、批发、零售、终端消费者”等环节的一体化,使各个环节能够紧密地环环相扣,更有利于相关物流信息资源的挖掘与开发,使物流管理水平实现了由“量”得到了向“质”的提升。增强了对复杂数据的处理能力,可以使用软件对农产品物流数据进行批量化的处理,有效的管理物流信息数据库,实现信息结构的优化。在当前的物联网时代,物流的信息化不断推进,相关农产品流通的数据呈现出几何倍数的增长,也为信息处理的及时性带来了新的挑战。而在大数据背景下使得这一问题得到了有效解决,可以随时随地进行计算与统计,突破了时间与空间的限制,利用全数据处理对象、多数据处理工具,使得处理速度更加实时化,保证了农产品流通供应链各环节信息处理的协同与一致,推进农产品流通的专业化发展,减少了交易过程不必要的“中间环节”,缩减交易成本。
(三)互联网大数据的应用有利于发挥农产品流通的极化效应
大数据技术的运用,使得农产品流通途径发生了深刻的变化。在大数据时代,不但相关农产品流通的信息实现了“所有即所得(Onesizefitall)”。同时,大数据更将传统的农产品物流信息管理的“后置总结分析”转变为“前置预测判研”,能够充分发挥大数据的数据分析与挖掘功能,对农产品流通的情况进行分析与形势判断,将整个流通的链条重心进行调整,使得农产品流通过程中可以根据市场需求“对症下药、见招拆招”,使流通更有针对性,大数据的优势对农产品流通的“生产、仓储、集成、物流渠道节点”等方面都将发挥作用,将有利于形成新的经济“增长极”。最终通过产业极化实现乘数效应,利用农产品的流通带动其它产业的共同发展,实现整个产业链条的整合、优化,提高发展质量。
二、互联网大数据时代农产品流通途径改善的对策
(一)通过农产品流通布局的系统化,实现个体经济向规模经济的转变
大数据时代要求农产品的流通途径有必要由传统的“个体化”转变为“系统化”。充分利用大数据的挖掘与分析、共享的功能,实现Hadoop(高度可扩展的分布式批量处理系统)功能拓展,将实现整个农产品流通系统的最优为目标。其庞大的数据存储与处理功能,使得社会化的农产品流通得到了进一步的拓展。在未来的发展中,秦皇岛要通过农产品流通布局的系统化,来实现个体经济向规模经济的转变。一方面,要利用大数据技术,加强政府对农产品流通的宏观调控、统一布局,建立高效的农产品流通信息系统,使其服务于农业开发。根据秦皇岛的资源现状,可以在秦皇岛现代物流园区通过加快大数据的应用,实现大数据与物流的衔接。要根据大数据的数据分析,重要布局规划酿酒葡萄、绿色生态安全猪、肉牛、肉鸡、水产品、食用菌、蔬菜、甘薯、玉米、干鲜果品、中药材、花卉等生产与供应基地建设,大力发展以信息技术和“大数据”为特征的“第四方(4PL)”物流,使农产品借助大数据,充分提高农产品流通规划与布局的效能。例如:陕西省的西咸新区的沣西大数据产业园通过与农产品物流的整合,实现了农产品物流数据的规模化集中,通过将物流数据放置在SaaS和SOA“云服务器”中,园区通过整合“第三方”物流,为农产品流通企业搭建“第四方”物流信息平台,为农产品流通用户提供便捷的物流数据挖掘。这些都对秦皇岛具有较强的借鉴意义。另一方面,要通过大数据技术,加强对农产品流通的分类调控。从当前海港区、山海关区、北戴河区、青龙县、昌黎县、抚宁县、卢龙区县的农产品流通情况来看,每个地区的经济发展并不均衡,所处的区位条件、资源禀赋和发展基础也各不相同。因此,有必要利用大数据做好特色定位,必须因地制宜、突出特色。不能搞统一的发展标准,要坚持分类指导,根据现阶段经济发展基础和资源禀赋,实施不同的农产品流通战略途径。要坚持“有所为、有所不为”,努力走出一条特色鲜明的农产品流通的新路子。要把差异化的农业产业化发展作为产业结构调整和发展方式转变的主要载体,引导各地形成产业集群。在粮食、蔬菜方面,主要以青龙满族自治县、昌黎县、抚宁县、卢龙县为重点,从“单产”着手,做好优质小麦、玉米和杂粮、特色蔬菜的复合化种植,发挥金海、香海、秦皇岛粮油等企业的龙头带动作用,做好订单生产流通与精细加工流通。果业、畜禽方面,要实行“集中连片,见空建园”,充分发挥海港区、山海关区、北戴河区的临港优势,构建区域性的农产品流通中心,加快冷链物流仓储体系建设,打造名优品牌。
(二)通过农产品流通节点的网格化,实现局部利益向供应链驱动转变
大数据时代要实现农产品流通节点的网络化。在大数据的背景下,由于有了更深入的数据分析与挖掘功能,这就对传统的农产品流通带来了新的契机,有必要对海量的农产品流通数据进行聚类、分类、相关性分析,找出农产品流通节点物流数据之间的相关性关系。最终,通过“数据化互动”实现节点的“网格化共赢”。一要加强“农超对接”,实现农民与超市终端的双赢。在昌黎、抚宁等农产品重点产销区,要通过大数据物流的RFID、EDI、GIS、ICT、SCM、VMI、ERP等技术,做好“前置性”数据挖掘进行利用,对农产品消费者的消费倾向、频次、数量、种类等方面的特征数据进行分析,结合“一村一品”“一乡一业”,政府牵头、企业运作、协会推动、农户参与,通过农产品市场的预测,打造农户与超市的“利益综合体”,连接“产前、产中、产后”等各个环节,将超市与农户的短期“买卖关系”升级为长期的“战略渠道伙伴关系”。二要加强“农企对接”。要利用大数据进行充分的“供需分析”,加强进一步巩固提升农业经营主体的市场地位。充分利用农民专业合作社的力量,促进农民专业合作社、农业市场的无指缝对接与均衡化发展、合理性开发。激发农户积极性,与市场需求进行有效对接;鼓励各种市场主体参与农产品流通。积极构建政府、企业、社会资本结合的多元化投资模式,把生产经营主动权交给农民,调动起工商资本、民间资本参与农产品流通的积极性。三要加强“农企对接”。大力建立龙头企业带动型农产品供应链,实现企业与农户的双赢。要利用大数据市场信息,培育壮大农业产业化龙头企业,重点支持鹏泰面粉、河北华龙、骊骅淀粉、正大、美尔淇、华夏葡萄酒、龙源通果汁、斌扬水产、北戴河集发农业综合开发等一批规模较大、带动力强、技术密集型和资本密集型农产品流通龙头企业。利用大数据的数据挖掘功能,增强各龙头企业的产业关联度,将“同质化”竞争转变为“异质化”互补,共同参与农产品流通的运作,打造更加完整的价值链条。要不断走出“低水平加工、粗放式流通”的怪圈,提高产品的附加值。而要紧紧抓住“产品开发”和“品牌”这两个核心环节,加强对新型农产品、绿色农产品、高端农产品研发的投入,将秦皇岛传统的农产品流通企业的“低质跑量”转变为“数质并提”。通过大数据分析技术,使企业与农户建立利益平衡点,通过订单、租赁、合资、合作、入股等的方式与农户签订长期合同,使龙头企业与农户实现上下游的连接、一体化的经营。
(三)通过农产品流通信息的共享化,实现经济增长点向增长极的转变
1 云计算概述
云计算诞生于二零零六年,二零零八年云计算得到大面积推广,云计算的诞生立即引起全球信息行业的广泛关注,云计算的出现给IT行业发展带来了新的改革浪潮,云计算的特征是:按需服务、共享资源、按需付费、网络面广。云计算作为二十一世纪新兴的技术,彻底改变了传统软件工程。云计算现如今已经被应用到了各个领域。云计算的核心技术有海量数据存储与计算、虚拟化技术、分布式存储技术、并行编程模式技术。云计算实现了将庞大数据拆分成若干子程序进行分布处理,处理后发送给服务器群计算,最后将分析处理结果统一融合后回传给用户。狭义上来说云计算是通过计算机和各类用户终端实现信息交互和应用。广义上讲云计算是一种强大的网络服务模式。云计算的虚拟化技术将一台计算机虚拟化成多台计算机,使资源利用率提高,从而降低成本。云计算的分布式计算技术,实现了根据使用需求情况分布资源。另外,云计算相比传统硬件平台相比,维护费用低廉,管理方便易操作,无需大量的资金支持。
2 物联网概念
物联网是互联网的重要组成部分,物联网是物物相联的互联网,物联网的基础仍然是互联网,物联网是以互联网为基础发展和延伸出来的网络。物联网最早提出于一九九零年。一九九一年麻省理工学院开始对物联网进行研究,一九九九年麻省理工学院对物联网做了实验。物联网底层数据的感知是物联网技术的基础,在物联网感知层中,呈现出的特点是数据量大、种类多。物联网感知采用了信息后,通过传输层实现数据与传递。物联网按照功能分为三层:应用服务层、网络传输层、感知控制层。物联网应用十分广泛,现如今几乎已经渗入到人类生活的各个方面。例如:智能交通、智能家居、资源管理、科研实验、医疗领域、军事领域。物联网的发展和推广受到了国家的重视。但就目前来看,物联网技术不论是技术上,还是理论上仍然处于发展阶段,距离物联网普及和大面积应用仍然有着一定的距离。
3 基于云计算的物联网系统架构
从物联网技术的特征来看,未来物联网技术更新和改革离不开对云计算的应用,云计算的优势是物联网技术所需要的,物联网的推广和应用必然不能缺少云计算,物联网数据产生和收集过程具有实时性和不间断性,处理时间的延迟必然会导致数据量的扩大。但由于数据量大、节点有限、存储点等技术限制,必然影响物联网性能。云计算的分布式技术,便可很好的解决这些问题,使物联网实现有效的控制多源、多位置的不同数据处理。云计算和物联网的融合,使物联网获得了强大的计算能力和存储能力,云计算搭建了一个辅助物联网的平台。
基于云计算的物联网系统架构主要包括了三个层次:物联网中间件层、物联网基础设施层、物联网应用层。这三层相互协调融合构成了物联网系统,向人们提供服务。
3.1 物联网应用层
物联网应用层是整个物联网系统架构的核心内容,应用层通过应用管理中提供管理工具,其中包括:用户管理、资源管理、安全管理、影像管理。每一个管理工具能够为用户提供不同的服务,用户管理包括:用户账户管理、计费管理等等。安全管理包括:用户身份验证、用户资料保护等等。资源管理包括:资源恢复、故障检测等等。影像管理包括:应用生命周期管理、影像部署等等。
3.2 物联网中间件
物联网中间件层是整个物联网的连接媒介,包含着整个物联网的所有中间件产品。所包括的功能有:感应设备管理、智能终端接入等等,除此之外,还具有面向服务的物联网应用的功能。
3.3 物联网基础设施层
物联网基础设施是物联网系统实现的基础,离开了物联网基础设备,物联网系统无从谈起。物联网基础设备层包含了:虚拟集群、物理硬件及感应终端。虚拟集群是基于云计算的虚拟化技术的基础上实现的,以虚拟化方式为用户提供服务。物理硬件包括:云计算必要的网络设备、存储设备、服务器设备等等。感应终端包括传感器、控制器等智能终端设备。物联网基础设备由物联网中间件负责管理和协调运作。