Applicatielogboeken opvragen met SQL (JSON en tekst)

Mapconnector · App-logboeken

Zet uw applicatielogbestanden om in SQL-tabellen Je kunt overal een zoekopdracht uitvoeren.

Wijs de Query Streams Agent naar de map. Deze leest de logbestanden op zijn eigen computer, bouwt de tabellen op in een lokale cache en houdt ze actueel naarmate bestanden binnenkomen, wijzigen of verdwijnen. U kunt de tabellen vervolgens opvragen vanuit Excel, Google Sheets, Nova, Claude of de REST API. Er wordt niets geüpload en er worden geen bestanden geconverteerd of bewerkt.

Ongeveer 15 minuten Geen programmeerkennis vereist De bestanden blijven op uw netwerk. Het gratis abonnement dekt het.

Wat je uiteindelijk overhoudt

Application Logs leest de JSON- en tekstlogbestanden die uw apps schrijven en zet elke gebeurtenis om in een rij in een tabel met de naam evenementenElke rij bevat de gegevens van het evenement. niveau, logger en berichtEn een stacktrace met meerdere regels blijft gekoppeld aan de gebeurtenis die deze heeft gegenereerd, in plaats van dat deze in aparte regels wordt weergegeven. U kunt de tabel opvragen met SQL vanuit Excel, Google Sheets of een dashboard, terwijl de bestanden op de computer blijven staan waarop de agent draait.

Geanalyseerde gebeurtenissen komen terecht in fileset.events, of in de Tabelnaam U hebt gekozen. De agent kopieert de rijen naar een lokale cache op de agentcomputer en serveert ze als SQL. De onderstaande kolommen zijn afkomstig van het standaard logtype.

Elke mapconnector biedt u ook de mogelijkheid om... bestanden, bestanden_gebeurtenissen, mappen, map_snapshots en volumesen logconnectoren voegen toe log_cursors met de leespositie van elk bestand. Altijd GESORTEERD OP event_time.

Waar het zijn nut bewijst:

• Tel het aantal fouten per app en logger in een spreadsheet zonder een logviewer te openen.
• Grafiek het foutvolume per uur op een dashboard dat wordt gevoed door de gebeurtenistabel.
• Een waarschuwing ontvangen wanneer een fatale gebeurtenis in de logboeken van een specifieke service verschijnt.

Wat je nodig hebt

Een Query Streams-account

Mapkoppelingen zijn beschikbaar in alle abonnementen, ook in het gratis abonnement. Het gratis abonnement is een abonnement dat je behoudt, geen proefperiode die verloopt. Er is geen limiet aan het aantal bestanden dat een map kan bevatten.

De Agent, versie 2.6.0 of later

Geïnstalleerd op een computer die de map kan openen: de bestandsserver zelf, een kantoorcomputer of de machine waarop de bestanden terechtkomen. Een oudere versie van Agent toont de mapkaarten grijs weergegeven met een Agent 2.6.0+ badge. Windows, Mac of Linux.

Het pad van de map, zoals de agent het ziet.

Een lokaal pad, of een netwerkshare die als volgt is geschreven: \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt of /media, a Mac under /Volumes).

Stel het in vijf stappen in.

1. Installeer de agent op een computer die de map kan openen.

   Aanmelden, openen DownloadInstalleer de agent voor uw systeem op de computer die uw toepassingslogbestanden kan openen: de bestandsserver of een andere computer die altijd aan staat en de gedeelde map kan bereiken. Dit duurt een minuut en start daarna automatisch. U hebt versie 2.6.0 of hoger nodig; de meest recente versie is altijd beschikbaar op de downloadpagina.

   Waarom een klein programma in plaats van een driver? De agent is een eenmalige installatie voor Windows, Mac of Linux (ongeveer 85 MB op Windows, iets meer dan 100 MB op Mac en Linux). Het opent één versleutelde uitgaande verbinding met Query Streams en dat is het enige netwerkpad dat nodig is: geen inkomende poort om te openen, geen VPN. Het leest de bestanden in de map waarin het zich bevindt, waardoor de bestanden op hun plaats blijven en alleen de rijen die een query retourneert via internet naar de add-in, browser of AI-client aan uw kant worden verzonden.

   De downloadpagina toont Uw toegangssleutelPlak het in de Agent wanneer daarom wordt gevraagd en wacht tot de badge is weergegeven. Verbonden met querystreamsDat is het enige wat je op de computer van de agent doet; al het andere gebeurt in je browser.

   Complete walkthroughs zijn beschikbaar als je die wilt: Windows, Mac, Linux.

2. Richt het op uw toepassingslogbestanden.

   Ga terug naar uw browser Gegevens → GegevensagentenZoek de agent die je zojuist hebt geïnstalleerd en klik erop. Connector toevoegen knop. Open de Bestanden en mappen pil en kies de Toepassingslogboeken kaart. Weet je niet zeker welke kaart past? Kies Bestanden in een map In plaats daarvan: de agent neemt een steekproef van de map, benoemt de inhoud op een pagina 'Wat we hebben gevonden' en opent de juiste, vooraf ingevulde kaart voor u.

   De tovenaar rent Mappen → Controleren → Instellingen → Realm → Controleren. Op Mappen:

   Hoofdmappen

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Scan submappen, maximale diepte

   Aan, en standaard 8 niveaus.

   Patronen opnemen, patronen uitsluiten

   Welke bestanden tellen mee? Het include-patroon begint met de juiste glob voor deze kaart. Eén connector leest één bestandstype: een map met CSV-bestanden. en Parquet-bestanden hebben twee connectors in dezelfde map, één per bestandstype.

   Volg symbolische links en junctions

   Standaard uitgeschakeld. De agent volgt geen snelkoppelingen of cloud-placeholders, tenzij u deze functie inschakelt.

   Open in het portaal de agent die de map kan zien en klik. Connector toevoegen. Onder Bestanden en mappen kiezen ToepassingslogboekenZodra deze is aangemaakt, verschijnt deze in de lijst met connectoren als Logbestanden.

   • Voeg de map waarnaar uw apps schrijven toe onder Hoofdmappen. Typ een netwerkshare als \\server\share\folder, niet als een toegewezen stationsletter.
   • Voeg patronen toe worden voor u ingevuld. De standaardinstellingen van de logdriver zijn: **/*.log en **/*.txtBeperk de zoekresultaten als de map andere tekstbestanden bevat.
   • Kies een LogtypeToepassingslogboeken zijn beperkt tot de ingebouwde typen. Als uw type ontbreekt, staat er in de lijst: "Heeft u een logboektype nodig dat niet in de lijst staat? Dien een ondersteuningsverzoek in en we voegen het binnen enkele dagen toe."
   • Tabelnaam is optioneel en de standaardwaarde is evenementen.
   • Aanvulling (dagen) is 30. Bewaar evenementen gedurende N dagen. Bewaart alles, tenzij je het anders instelt.

3. Bekijk wat het zal bouwen

   Op Rekening De agent leest een voorbeeld van maximaal 64 bestanden en laat zien wat er gebouwd zal worden. Er is nog niets aangemaakt. De knop geeft de volgende tekst weer: Testverbinding totdat er een vonnis is, dan Volgende; Test opnieuw Het voorbeeld wordt opnieuw uitgevoerd nadat u iets hebt gewijzigd. U ziet dan een van de vier volgende kopteksten:

   Klaar om te creëren

   Elk geselecteerd bestand past. De chips eronder geven aan hoeveel mappen bereikbaar waren, hoeveel bestanden en rijen er waren en welke tabellen er aanwezig waren.

   Klaar, met aantekeningen.

   Sommige bestanden worden opzijgezet, of de lay-outcontrole wordt geweigerd. Een oranje banner geeft precies aan welke: "{n} van {m} bestand(en) worden opzijgezet" met een Geef aan welke bestanden het betreft en waarom. lijst, en "Je kunt het sowieso aanmaken - de connector blijft controleren en rapporteert de reden op het tabblad Manifest."

   Deze bestanden zijn niet van dit logtype.

   Het voorbeeld werd niet herkend als het logformaat van deze kaart. Controleer of u de juiste kaart hebt geselecteerd, of gebruik de volgende methode. Aangepaste logmap beschrijf de kaart en het formaat ervan.

   Een weigering of het terzijde leggen van bestanden blokkeert je nooit: klik hier. VolgendeVoltooi de wizard en repareer de afwijkende bestanden later. Alleen een offline agent of een ontbrekende map stopt de wizard.

   Op RekeningDe agent leest een voorbeeld en laat zien wat er gebouwd zal worden. Er wordt nog niets aangemaakt. Als het voorbeeld niet overeenkomt met het logtype dat u hebt gekozen, luidt de koptekst: Deze bestanden zijn niet gevolgd door dat type, en een amberkleurige banner zegt "De schema-analyse is geweigerd:" met de reden. Open Geef aan welke bestanden het betreft en waarom. om het bestand en het redenoverzicht te bekijken. De gebruikelijke oplossing is een andere aanpak. Logtype, of strakker Voeg patronen toe zodat overbodige bestanden worden weggelaten, dan Test opnieuwJe kunt het ook op een andere manier aanmaken. De connector blijft controleren en rapporteert de reden op zijn scherm. Manifest tab.

4. Kies hoe vaak er gescand moet worden en maak het vervolgens aan.

   De standaardinstellingen op Instellingen Geschikt voor een map die dagelijks een paar bestanden ontvangt. Vier zaken die je wellicht wilt wijzigen:

   Scaninterval

   Elk uur Standaardinstelling; kies een frequentie van elke 5 minuten tot dagelijks. Elke scan vergelijkt de grootte en de wijzigingstijd om nieuwe, gewijzigde en verdwenen bestanden te vinden.

   Houd de map in de gaten voor wijzigingen (vrijwel in realtime).

   Standaard uitgeschakeld. Ingeschakeld reageert de agent binnen enkele seconden op lokale schijven; op netwerkshares werkt deze naar beste vermogen en blijft de geplande scan de garantie. Rustperiode (15 seconden) wacht tot het schrijven van een bestand is voltooid.

   Vernieuw de pagina voordat u een vraag beantwoordt.

   Standaard uitgeschakeld. In deze stand wordt een zoekopdracht eerst opnieuw uitgevoerd als de laatste scan ouder is dan de ingestelde waarde. Verouderingsvenster (60 seconden), wachtend op maximaal de Wachtlimiet voor query's (5 seconden). Dit geldt voor personen en invoegingen, niet voor het peilen van waarschuwingen.

   Wanneer een bestand verdwijnt

   Verwijder de rijen standaard, of Behoud rijen, markeer verwijderd (grafsteen)De Verdwijningspercentage (0.5) weigert een scan die meer dan de helft van de bestanden tegelijk verliest en behoudt de vorige inventaris, wat overeenkomt met hoe een offline gedeelde map eruitziet.

   Kies vervolgens de Gegevensrijk Het aantal rijen telt mee, controleer Beoordeling en klik Connector makenDe eerste scan start direct. De connector Manifest Het tabblad laat zien wat er is gebouwd en welke bestanden er zijn opgeslagen.

5. Kijk naar je tafels

   Open de connector: de Manifest tab geeft een overzicht van de tabellen die zijn gemaakt en de Bestanden In het dialoogvenster worden alle logbestanden met hun status weergegeven. Querybouwer dezelfde tafels staan onder de bestandenset schema. Drie query's die vanaf dag één werken:

   Fouten in het afgelopen uur, per logger

   SELECT logger, COUNT(*) AS errors FROM fileset.events WHERE lower(level) IN ('error', 'fatal') AND event_time >= now() - INTERVAL 1 HOUR GROUP BY logger ORDER BY errors DESC LIMIT 100

   Telt fouten en fatale gebeurtenissen per logger gedurende het laatste uur. event_time. Pas de aan niveau waarden die overeenkomen met wat uw apps schrijven.

   De meest recente evenementen met hun app, niveau en bericht.

   SELECT event_time, app, level, logger, message FROM fileset.events ORDER BY event_time DESC LIMIT 100

   De 100 nieuwste gebeurtenissen in elk bestand. Een stacktrace maakt deel uit van... bericht op dezelfde rij.

   Bestanden die recent zijn geroteerd, ingekort of opzijgezet.

   SELECT relative_path, event_type, detected_by, detail, event_at FROM fileset.files_events WHERE event_type IN ('rotated', 'truncated', 'rewritten', 'drift', 'refused') ORDER BY event_at DESC LIMIT 20

   Leest de bestandsgeschiedenis in bestanden_gebeurtenissen. A drift De rij bevat de naam van een bestand dat apart is gezet en de reden daarvoor.

   Elke mapconnector bedient ook dezelfde boekhoudtabellen, allemaal in de bestandenset schema:

   Tafel	Wat het bevat
   bestanden	Elk bestand dat zich momenteel in de map bevindt: pad, naam, extensie, grootte, aanmaak- en wijzigingsdatum, eerste en laatste keer gezien. Een overzicht van bestanden_huidig, die ook bestanden bewaart die verdwenen zijn.
   bestanden_gebeurtenissen	De wijzigingsgeschiedenis: één regel per bestand dat verscheen, was gewijzigd, verdwenen, werd opzijgezet (drift) of was geweigerd, met de tijd in event_athoe het werd opgemerkt in gedetecteerd_door en de reden in detail.
   mappen, map_snapshots, volumes	Het aantal mappen en hun grootte, hoe ze zijn gegroeid en op welke schijven of gedeelde mappen de wortels voortleven.
   _bronbestand, _rij_id	Elke gegevensrij bevat twee kolommen: het bestand waar de rij vandaan komt en een stabiele rij-ID binnen dat bestand. Groeperen op _bronbestand om bestanden te vergelijken.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Mappen step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Gebruik het overal

De connector is een gegevensbron, net als elke andere in Query Streams. Sla een query eenmaal op in de Querybouwer (het dialect is DuckDB) en gebruik het vanuit:

Excel

De add-ons Een query streamen De rijen worden in een spreadsheet geplaatst en met een muisklik opnieuw uitgevoerd. SQL-query's uitvoeren in Excel.

Google formulieren

De Query Streamer De add-on vult een tabblad dat je selecteert. Power Query voor Google Sheets.

Claude, Cursor en andere AI-clients

Via de Query Streams MCP-server kent Claude het mapmodel, inclusief _bronbestand en bestanden_gebeurtenissen. App-logs met Claude via MCP.

REST API

Elke opgeslagen query wordt een alleen-lezen eindpunt met een eigen sleutel, in elk plan. App Logs REST API.

Nova

Stel uw vragen in begrijpelijke taal over het bedrijfsplan; Nova kent elke map, tabel en kolom dankzij de ingebouwde beschrijvingen.

Automatiseringen

Synchroniseer de rijen met Airtable, Smartsheet, Baserow, SeaTable of een spreadsheet volgens een planning. Automatiseringshandleidingen.

Maptabellen kunnen ook gekoppeld worden aan uw andere connectors: een gefedereerde query kan overeenkomsten vinden. _bronbestand Namen of order-ID's in uw applicatielogbestanden worden vergeleken met een database op dezelfde agent.

Hoe nieuwe, gewijzigde en verwijderde bestanden worden weergegeven

Bestanden die apart zijn gezet.

Op de stap 'Controleren' en het tabblad 'Manifest' staan drie woorden. Ze hebben verschillende betekenissen:

Aan de kant zetten (parkeren)

Het bestand komt niet overeen met de vastgezette lay-out, of is onleesbaar, beschadigd, vergrendeld of te groot. Het is alles of niets per bestand: een geparkeerd bestand draagt nul rijen bij. bestanden_gebeurtenissen records een drift rij waarvan detail De bestandsnaam en de kolomnaam worden doorgegeven. Het bestand wordt overgeslagen zolang de grootte en de wijzigingstijd hetzelfde blijven, en opnieuw geprobeerd zodra deze wijzigen.

Onleesbaar

De agent kon het bestand niet openen of verwerken vanwege het type: geen echt werkblad, vergrendeld door een ander programma, een cloud-placeholder, onleesbare bytes. Het bestand wordt automatisch afgesloten en de rest van de map wordt wel verwerkt. Alleen een map met nul leesbare bestanden weigert de volledige set.

Geweigerd

De agent kon geen enkele lay-out vastzetten, bijvoorbeeld omdat bestanden het niet eens waren over een kolomtype. Er bestaat nog geen gegevenstabel. bestanden_gebeurtenissen krijgt een geweigerd rij met de reden in detailEn de agent probeert het bij elke scan opnieuw totdat een lay-out wordt vastgezet. Corrigeer of sluit het bestand uit dat wordt genoemd en de melding verdwijnt.

Waar te kijken: de amberkleurige banner op Rekening (Geef aan welke bestanden het betreft en waarom.), de connector Manifest tab daarna, en voor logconnectoren de Bestanden dialoogvenster, waarin geparkeerde bestanden met de reden worden weergegeven laatste_foutIn SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Grenzen die het waard zijn om te kennen

Er is geen limiet aan het aantal mappen of bestanden in het abonnement. De rijen tellen wel mee voor uw Data Realm, net als bij elke andere connector. U kunt de standaardinstellingen van de connector verhogen of verlagen:

Inhoudslimieten, die een bestand parkeren in plaats van het te verkleinen: 2.000.000 rijen of 512 MiB per bestand, 10.000.000 rijen of 2 GiB per scan. Een map kan maximaal 25 verschillende lay-outs bevatten. Eén tafel per lay-out modus.

Vragen die mensen stellen

• Bestandssysteem
• CSV-map
• Parquet-map
• Excel-map
• SQLite-map
• JSONL-map
• CSV-bestand met meerdere records
• Machinelogboeken
• Webserverlogboeken
• Containerlogboeken
• Systeemlogboeken
• Aangepaste logboeken