JavaRush /Java Blog /Random-TK /Java we Uly maglumatlar: näme üçin Uly Maglumat taslamala...

Java we Uly maglumatlar: näme üçin Uly Maglumat taslamalary Java bolmasa edip bilmeýär

Toparda çap edildi
JavaRush baradaky makalalarymyzda ýakyn wagtda 25 ýaşyna ýetjek Java-yň indi ikinji ýaşlygyny başdan geçirýändigini we ýakyn wagtda ajaýyp geljegi bar diýmekden ýadamzok. Munuň birnäçe sebäbi bar we şolaryň biri, Java bazarynyň IT bazaryndaky köp ugurly we çalt ösýän ýerlerde esasy programmirleme dilidir. Java we Uly maglumatlar: näme üçin Uly Maglumat taslamalary Java bolmasa edip bilmeýär - 1Java-a çuňňur mähir we mähirli duýgularyň çäginde, zatlaryň interneti (IoT) we uly maglumatlar, şeýle hem Business intellekt (işewür intellekt, BI) we Real Time Analytics (real wagt analitikasy) agzalýar. Javaaňy-ýakynda “Java” bilen “Internet of Things” -iň arasyndaky baglanyşygy ara alyp maslahatlaşdyk we “Java” döredijiniň özüni we başarnyklaryny bu nokada nädip “sazlap” biljekdigi barada söhbet etdik. Indi ikinji super tendensiýa üns bermegiň wagty geldi, bu dogry - Java-ny hem gowy görýär we onsuz durmuşy göz öňüne getirip bilmeýär. Şeýlelik bilen, bu gün biz uly maglumatlary seljerýäris: näme üçin Java-yň we şonuň üçinem wepaly kodlaýjylaryň bu nokada uly islegi bar, bu diliň “uly maglumatlary” bolan taslamalarda näderejede ulanylýandygy, zerur bolmak üçin näme öwrenmelidigi bu ýerde işlemek we işlemek üçin başarnyklar we häzirki wagtda uly maglumatlar üçin haýsy tendensiýalar, 2020-nji ýylyň öňüsyrasynda. Bularyň arasynda dünýä derejesindäki hünärmenleriň uly maglumatlar baradaky pikirleri bar, şondan soň Gomer Simpson hem “uly maglumatlar” bilen işlemegi öwrenmek isleýär. Java we Uly maglumatlar: näme üçin Uly Maglumat taslamalary Java bolmasa edip bilmeýär - 2
“Geljekki 10 ýylda gyzlar sportçylary we birbraçylary kowalamaýarlar, maglumatlar we statistika bilen işleýän ýigitler. Men degişmeýärin. "

Google-yň baş ykdysatçysy Hal Warian

Uly maglumatlar planetany basyp alýar

Firstöne ilki bilen, uly maglumatlar we bu ýeriň karýerany gurmak üçin näme üçin geljegi bar? Gysgaça aýdylanda, uly maglumatlar gutulgysyz we yzygiderli, iň esasysy bolsa çaltlyk bilen dünýädäki kompaniýalaryň iş prosesine aralaşýar we olar hem öz gezeginde maglumatlar bilen işlemek üçin hünärmen gözlemäge mejbur bolýarlar (bular diňe bir programmistler däl) ), ýokary aýlyk we beýleki gowy zatlar bilen gyzyklandyrmak. Forbesiň habaryna görä, kärhanalarda uly maglumatlary ulanmak 2015-nji ýylda 17% -den 2018-nji ýylda 59% -e çenli ýokarlandy . Uly maglumatlar satuw, marketing, gözleg we ösüş, logistika we hemme zady öz içine alýan ykdysadyýetiň dürli pudaklaryna çalt ýaýraýar. IBM-iň gözlegine görä, diňe Amerikanyň Birleşen Ştatlarynda bu ugurdaky hünärmenler üçin iş orunlarynyň sany 2020-nji ýyla çenli 2,7 milliondan geçer. Geljegi uly? Entegem eder.

Uly maglumatlar we Java

Indi “Big Data” bilen “Java” -yň näme üçin köp umumylygy bar. Esasy zat, uly maglumatlar üçin esasy gurallaryň köpüsi Java-da ýazylýar. Mundan başga-da, bu gurallaryň hemmesi diýen ýaly açyk çeşme taslamalarydyr. Bu olaryň hemmeler üçin elýeterlidigini we şol bir sebäbe görä dünýäniň iň uly IT kompaniýalary tarapyndan işjeň ulanylýandygyny aňladýar. “Uly maglumatlar Java. Hadoop we Hadoop ekosistemasynyň ep-esli bölegi Java-da ýazylýar. Hadoop üçin MapReduce interfeýsi hem Java. Şeýlelik bilen, “Java” dörediji üçin “Hadoop” -yň üstünde işleýän Java çözgütlerini döretmek arkaly uly maglumatlara geçmek gaty aňsat bolar. Işi aňsatlaşdyrýan Cascading ýaly Java kitaphanalary hem bar. “Hive” (Apache Hive Hadoop esasly maglumat bazasyny dolandyrmak ulgamy) ýaly bir zat ulanýan bolsaňyzam, Java çözmek üçin örän peýdalydyr "-diýdi. “Hadoop-dan başga-da tupan Java-da, Spark (ýagny Hadoop-yň geljegi) Scala-da ýazylýar (bu hem öz gezeginde JVM-de işleýär we Spark-da Java interfeýsi bar). Görşüňiz ýaly, Java uly maglumatlarda uly rol oýnaýar. Bularyň hemmesi açyk çeşme gurallary, bu kompaniýalaryň içindäki işläp düzüjileriň özleri üçin giňeltmeler döredip ýa-da işlemegi goşup biljekdigini aňladýar. Bu iş köplenç Java ösüşini öz içine alýar "-diýdi. Görşümiz ýaly, uly maglumatlarda, şeýle hem zatlaryň internetinde, maşyn öwrenmekde we meşhurlyga eýe bolmagyny dowam etdirýän başga-da birnäçe ýerlerde Java-y bilmek aňsat bolmaz.
“Häzirki wagtda her bir kompaniýanyň uly maglumat meýilnamalary bar. Bu kompaniýalaryň hemmesi uly maglumat biznesine girer ".
Tomas H. Dawenport,
Amerikaly akademik we işewürlik seljerişi we innowasiýa boýunça bilermen
Indi bolsa Java döredijiler tarapyndan giňden ulanylýan ýokarda agzalan uly maglumat gurallary barada birneme.

Apache Hadoop

Apache Hadoop uly maglumatlar üçin esasy tehnologiýalaryň biridir we Java-da ýazylýar. Hadoop, Apache Programma Gaznasy tarapyndan dolandyrylýan mugt we açyk çeşmeler toplumy, kitaphanalar we çarçuwalar toplumy. Ilkibaşda ulaldylan we paýlanan, ýöne ygtybarly hasaplamak we köp mukdarda dürli maglumatlary saklamak üçin döredilen Hadoop, tebigy ýagdaýda köp kompaniýalar üçin “uly maglumatlar” infrastrukturasynyň merkezine öwrülýär. Dünýädäki kompaniýalar Hadoop zehinini işjeň gözleýärler we Java bu tehnologiýany özleşdirmek üçin zerur hünärdir. Döredijiler Slashdot- yň pikiriçe , 2019-njy ýylda köp sanly uly kompaniýa, şol sanda programmistler üçin rekord aýlyk alýan JPMorgan Chase, Hadoop dünýä konferensiýasynda Hadoop hünärmenlerini işjeň gözleýärdi, ýöne hatda şol ýerde-de zerur hünärleri bolan ýeterlik hünärmen tapyp bilmedi. hususan-da, Hadoop MapReduce programmalaryny ýazmak üçin programmirleme modeli we çarçuwasy baradaky bilimler). Bu bu ugurda aýlyklaryň hasam ýokarlanjakdygyny aňladýar. Olar eýýäm gaty uly. Hususan-da, “Business Insider” Hadoop hünärmeniniň ortaça bahasynyň ýylda 103 müň dollardygyny, uly maglumat hünärmenleri üçin bolsa bu görkezijiniň ýylda 106 müň dollardygyny çaklaýar. Hadoop hünärmenlerini gözleýän menejerleri işe almak, Java-ny üstünlikli işlemek üçin iň möhüm endikleriň biri hökmünde görkezýär. Hadoop köp wagt bäri ulanylýar ýa-da ýakynda IBM, Microsoft we Oracle ýaly köp iri korporasiýa tarapyndan amala aşyryldy. Häzirki wagtda Amazon, eBay, Apple, Facebook, General Dynamic we beýleki kompaniýalarda Hadoop hünärmenleri üçin köp wezipe bar.
"Tüssesiz ot ýok bolşy ýaly, indi uly maglumatlar bolmasa iş ýok".
Doktor Tomas Redman,
maglumat seljerişi we sanly tehnologiýalar boýunça tanymal hünärmen

Apache uçgun

“Apache Spark” “Hadoop” bilen çynlakaý bäsleşýän başga bir möhüm maglumat platformasydyr. Çaltlygy, çeýeligi we döredijilere dostlugy bilen Apache Spark uly göwrümli SQL, partiýa we akym maglumatlary we maşyn öwrenmek üçin öňdebaryjy çarçuwa öwrülýär. Uly maglumatlary paýlanan gaýtadan işlemegiň çarçuwasy bolmak bilen, Apache Spark Hadoop MapReduce çarçuwasyna meňzeş prinsipde işleýär we uly maglumatlar pudagynda ulanmak nukdaýnazaryndan kem-kemden elini aýyrýar. “Spark” köp dürli usulda ulanylyp bilner we “Java” bilen baglanyşygy bar, şeýle hem “Scala”, “Python” we “R.” ýaly birnäçe programma dilleri bar. Häzirki wagtda “Spark” banklar, telekommunikasiýa kompaniýalary, wideo oýunlaryny döredijiler we hatda giňden ulanylýar. hökümetleri. Elbetde, “Apple”, “Facebook”, “IBM” we “Microsoft” ýaly IT ägirtleri “Apache Spark” -y gowy görýärler.

Apache Mahout

Apache Mahout, Apache-den açyk çeşme Java maşyn öwreniş kitaphanasydyr. Mahout takyk bir ýa-da birnäçe enjamda maglumatlary gaýtadan işlemek ukyby bolan ulaldylan maşyn öwreniş guralydyr. Bu maşyn öwrenişiň ýerine ýetirişleri Java-da ýazylýar, käbir bölekleri Apache Hadoop-da gurulýar.

Apache tupany

“Apache Storm” real wagt akym hasaplamalarynyň çarçuwasydyr. Tupan, Hadoop-yň maglumatlar üçin edýän zatlaryny hakyky wagtda ýerine ýetirip, çäklendirilmedik maglumatlar akymlaryny ygtybarly gaýtadan işlemegi aňsatlaşdyrýar. Tupan islendik nobat ulgamy we islendik maglumat bazasy ulgamy bilen birleşýär.

Java JFreechart

Java JFreechart, köp sanly diagramma döretmek üçin Java esasly programmalarda ulanmak üçin Java-da işlenip düzülen açyk çeşme kitaphanasydyr. Hakykat, uly wizual derňew üçin maglumatlary wizuallaşdyrmak diýseň möhüm mesele. Uly maglumatlar köp mukdarda maglumatlar bilen işlemegi öz içine alýandygy sebäpli, islendik tendensiýany kesgitlemek we çig mallara seredip belli bir netijä gelmek kyn. Şeýle-de bolsa, şol bir maglumatlar grafada görkezilse, has düşnükli bolýar we nagyşlary tapmak we baglanyşyklary kesgitlemek has aňsat bolýar. Java JFreechart hakykatdanam uly maglumatlary derňemek üçin grafikleri we diagrammalary döretmäge kömek edýär.

Çuňňur öwrenmek4j

“Deeplearning4j” dürli görnüşli nerw ulgamlaryny gurmak üçin ulanylýan Java kitaphanasydyr. Deeplearning4j Java-da amala aşyrylýar we Clojure bilen gabat gelýän we Scala dili üçin API öz içine alýan gurşawda işleýär. “Deeplearning4j” tehnologiýalary çäklendirilen Boltzmann maşynyny, çuňňur ynanç toruny, çuňňur awtoenkoderi, ses süzgüçli dykyzlandyrylan awtoenkoderi, gaýtalanýan densor nerw ulgamyny, word2vec, doc2vec we GloVe-ni öz içine alýar.
"Uly maglumatlar işewürlik üçin täze çig mal bolup durýar."
Kreýg Mandi,
Microsoft-yň baş direktorynyň uly geňeşçisi

2020-nji ýylyň bosagasyndaky uly maglumatlar: soňky tendensiýalar

2020-nji ýyl, dürli ugurlardaky kompaniýalar we guramalar tarapyndan uly maglumatlaryň giňden kabul edilmegi bilen, uly maglumatlaryň çalt ösmeginiň we ewolýusiýasynyň ýene bir ýyly bolmaly. Şonuň üçin indiki ýylda möhüm rol oýnamaly uly maglumatlar tendensiýalaryny gysgaça belläris. Java we Uly maglumatlar: näme üçin Uly Maglumat taslamalary Java bolmasa edip bilmeýär - 3

Zatlar interneti - uly maglumatlar hasam ulalýar

Zatlar interneti (IoT) birneme üýtgeşik bir hekaýa ýaly bolup görünýär, ýöne beýle däl. IoT güýçlenip, bütin dünýä ýaýramagyny dowam etdirýär. Netijede, zerur bolan ýagdaýynda her dürli maglumatlary iberýän öýlerde we ofislerde oturdylan “akylly” enjamlaryň sany hem artýar. Şonuň üçin “uly” maglumatlaryň göwrümi diňe artar. Hünärmenleriň belleýşi ýaly, köp guramada eýýäm köp maglumat bar, esasanam IoT sektoryndan, entek ulanmaga taýyn däl we 2020-nji ýylda bu göç has-da köpeler. Netijede, uly maglumat taslamalaryna maýa goýumlary hem çalt artar. Bolýar, IoT-nyň Java-ny gaty gowy görýändigini ýatladýarys . Ony kim söýmeýär?

Sanly ekizler

Sanly ekizler, zatlaryň interneti we uly maglumatlar bilen gönüden-göni baglanyşykly ýakyn geljekdäki ýene bir gyzykly tendensiýa. Şonuň üçin Java-da ulanmak ýeterlik däl bolar. Sanly ekiz näme? Bu hakyky obýektiň ýa-da ulgamyň sanly şekili. Fiziki enjamyň programma üpjünçiligi analogy, içerki prosesleri, tehniki aýratynlyklary we päsgelçilik we daşky gurşaw şertlerinde hakyky obýektiň özüni alyp barşyny simulirlemäge mümkinçilik berýär. Paralel işleýän hakyky enjamda köp sanly datçik bolmasa sanly ekizleriň işlemegi mümkin däl. 2020-nji ýyla çenli dünýäde milliardlarça sanly ekizlere maglumat iberip, 20 milliarddan gowrak birikdirilen datçigiň boljakdygyna garaşylýar. 2020-nji ýylda bu tendensiýa güýçlenmeli we öňe çykmaly.

Sanly öwrülişik has akylly bolar

Sanly üýtgeşme indi birnäçe ýyl bäri möhüm tendensiýa hökmünde agzalýar. Bilermenleriň pikiriçe, mesele köp kompaniýanyň we ýolbaşçylaryň bu sözlemiň manysyna gaty düşnüksiz düşünýändikleri. Köpler üçin sanly üýtgeşme, täze girdeji çeşmelerini döretmek üçin kompaniýanyň ýygnaýan maglumatlaryny satmagyň ýollaryny tapmagy aňladýar. 2020-nji ýyla çenli sanly üýtgeşmeleriň bäsdeşlik artykmaçlygyny döretmek üçin maglumatlary öz işleriniň her bir ugruna dogry ulanmak bilen baglanyşyklydygyna has köp kompaniýa düşünýär. Şol sebäpli, kompaniýalaryň maglumatlaryň dogry we aňly ulanylmagy bilen baglanyşykly taslamalaryň býudjetini artdyrmagyna garaşyp bileris.
"Biz ýuwaş-ýuwaşdan Uly Maglumatlaryň başlangyç nokady bolan döwre tarap barýarys."
Pearl Zhu, Digital Master kitaplarynyň awtory

Netijeler

Uly maglumatlar, Java döredijiniň ulanyp biljek köp mümkinçilikleri bilen hakykatdanam ägirt uly iş ugrudyr. Zatlar interneti ýaly bu ugur hem ösýär we beýleki tehniki hünärmenler ýaly programmistleriň ýetmezçiligini başdan geçirýär. Şonuň üçin indi şeýle uzyn makalalary okamagy bes edip, Java öwrenip başlamagyň wagty geldi! Java we Uly maglumatlar: näme üçin Uly Maglumat taslamalary Java bolmasa 5 edip bilmeýär
Teswirler
TO VIEW ALL COMMENTS OR TO MAKE A COMMENT,
GO TO FULL VERSION