VBA Web Scraping | Hvordan skrap nettsteder ved hjelp av Excel VBA?

Excel VBA Web Scraping

VBA Web Scraping er en teknikk for å få tilgang til websider og laste ned data fra nettstedet til våre datafiler. Nettskraping er mulig ved å få tilgang til eksterne applikasjoner som Internet Explorer. Vi kan gjøre det på to måter, dvs. tidlig binding og sen binding.

Web Scraping med VBA betyr at når vi bruker VBA for å hente dataene fra de andre kildene på nettet, kan dette kreve pålogginger for datakildene, men først, for å gjøre det, må vi aktivere referansene fra verktøyseksjonen i VBA-redigereren for Microsoft HTML-biblioteket for å få tilgang til nettet fra VBA.

Ikke mange av oss vet at fra Excel kan vi få tilgang til nettsidene og få data fra disse websidene. Ja, du hørte det riktig. vi kan skrape gjennom nettsider, få tilgang til nettlesingsapplikasjoner og mange flere. I denne artikkelen vil vi vise deg hvordan du skriver en excel VBA-kode for nettskraping i detalj.

Vanligvis åpner vi nettsidene, kopierer dataene og limer dem inn i filene våre som excel, word eller noen andre filer. Men i denne artikkelen vil vi vise deg hvordan du får tilgang til nettsteder fra Excel og gjør mange andre slags ting.

Hvordan skrap nettstedsdata ved hjelp av VBA?

Du kan laste ned denne VBA Web Scraping Excel-malen her - VBA Web Scraping Excel Template

Når vi ønsker å få tilgang til andre applikasjoner fra excel, kan vi gjøre dette på måter, dvs. "Early Binding" og "Late Binding". På nybegynnerstadiet er det alltid trygt å bruke "Early Binding" -teknikken.

For å få tilgang til nettstedet trenger vi nettlesingsapplikasjoner, for eksempel “ Internet Explorer ”. Siden det er et eksternt objekt, må vi først sette referansen.

Følg trinnene nedenfor for å skrape nettet.

Trinn 1: Definer VBA-variabelen og tilordne datatypen som " Internet Explorer ".

Kode:

 Sub Web_Scraping () Dim Internet_Explorer Som internett End Sub 

Som du kan se ovenfor når vi prøver å sette referansen til Internet Explorer, får vi ikke se "Internet Explorer", dette er fordi "Internet Explorer" er et eksternt objekt, så vi må sette referansen.

Trinn 2: For å angi referansen, gå til " Verktøy " og velg " Referanser ".

I vinduet nedenfor blar du ned og velger “ Microsoft Internet Controls ”.

Trinn 3: Merk av i "Microsoft Internet Controls" og klikk på OK. Nå skal vi se dette objektnavnet i IntelliSense-listen.

Kode:

 Sub Web_Scraping () Dim Internet_Explorer Som inter End Sub 

Trinn 4: Velg “InternetExplorer”.

Kode:

 Sub Web_Scraping () Dim Internet_Explorer Som InternetExplorer End Sub 

Trinn 5: Deretter må vi sette referansen for å aktivere Internet Explorer. Siden dette er en objektvariabel, må vi bruke nøkkelordet " Sett " for å angi referanser.

Kode:

 Sub Web_Scraping () Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer End Sub 

Trinn 6: Nå med variabelen " Internet_Explorer " kan vi bruke egenskapene og metodene til Internet Explorer.

Skriv inn variabelnavnet og sett en prikk for å se IntelliSense-listen.

Kode:

Sub Web_Scraping () Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer. Slutt Sub

Trinn 7: Nå for å se Internet Explorer-applikasjonen, må vi velge " Synlig " -egenskap og sette status som " Sann ".

Kode:

 Sub Web_Scraping () Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer.Visible = True End Sub 

Kjør nå koden, og du bør se at en Internet Explorer åpnes på datamaskinen din.

Trinn 8: Fordi ingen nettadresser er nevnt, kan vi bare se en tom side. For å gi nettadressen til Internet Explorer må vi “ Navigering ” -metoden.

Kode:

 Sub Web_Scraping () Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer.Visible = True Internet_Explorer.Navigate (End Sub 

Trinn 9: Som du kan se ovenfor "Navigering" -metoden som spør hvilken URL du skal navigere i Internet Explorer. Nå må jeg åpne nettstedet " Wallstreetnmojo ", og jeg kan oppgi URL-adressen som følger. “//Www.wallstreetmojo.com/”

Kode:

 Sub Web_Scraping() Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer.Visible = True Internet_Explorer.Navigate ("//www.wallstreetmojo.com") End Sub 

Now run the code, we should see the mentioned web address page in internet explorer.

Here we have a problem that once the web page is opened our code needs to wait until the page web page fully opened.

Step 10: We need to use the “Do While” loop in VBA to actually wait for our code to go any further until the mentioned page is fully loaded.

So, add below the “Do While” loop to force the macro to wait until the mentioned web page comes to the “Ready State Complete” mode.

Code:

 Sub Web_Scraping() Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer.Visible = True Internet_Explorer.Navigate ("//www.wallstreetmojo.com") Do While Internet_Explorer.ReadyState  READYSTATE_COMPLETE: Loop End Sub 

Step 11: Now let’s try to get information about the website in a single line. To get the information about the mentioned web address information we need to use the “Location Name” property.

Code:

 Sub Web_Scraping() Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer.Visible = True Internet_Explorer.Navigate ("//www.wallstreetmojo.com") Do While Internet_Explorer.ReadyState  READYSTATE_COMPLETE: Loop MsgBox Internet_Explorer.LocationName End Sub 

Run the code and in the message box, we would get the information about the website.

Step 12: Now at the bottom, we can also print website addresses as well.

Code:

 Sub Web_Scraping() Dim Internet_Explorer As InternetExplorer Set Internet_Explorer = New InternetExplorer Internet_Explorer.Visible = True Internet_Explorer.Navigate ("//www.wallstreetmojo.com") Do While Internet_Explorer.ReadyState  READYSTATE_COMPLETE: Loop MsgBox Internet_Explorer.LocationName & vbNewLine & vbNewLine & Internet_Explorer.LocationURL End Sub 

Now this will tell about the website description and also shows the website address as well.

Things to Remember here

  • Web scraping is possible by accessing external applications like Internet Explorer.
  • We can do it in two ways i.e. Early Binding & Late Binding. With Early Binding, we can get to see the IntelliSense list but with late binding, we cannot get to see the IntelliSense list at all.