Aangepaste loganalyse met SQL: parseer elk tekstlogbestand

Mapconnector · Aangepaste logboeken

Zet elk tekstlogboek dat je beschrijft om in SQL-tabellen Je kunt overal een zoekopdracht uitvoeren.

Wijs de Query Streams Agent naar de map. Deze leest de logbestanden op zijn eigen computer, bouwt de tabellen op in een lokale cache en houdt ze actueel naarmate bestanden binnenkomen, wijzigen of verdwijnen. U kunt de tabellen vervolgens opvragen vanuit Excel, Google Sheets, Nova, Claude of de REST API. Er wordt niets geüpload en er worden geen bestanden geconverteerd of bewerkt.

Ongeveer 15 minuten Geen programmeerkennis vereist De bestanden blijven op uw netwerk. Het gratis abonnement dekt het.

Wat je uiteindelijk overhoudt

De map 'Aangepaste logmap' is bedoeld voor tekstlogboeken die niet door de ingebouwde kaarten worden herkend. U beschrijft het formaat eenmalig, of laat Nova een suggestie doen, en elke regel wordt een rij in een tabel met de naam 'Aangepaste logmap'. evenementenTotdat je kolommen definieert, is elke rij de regel. bericht gemerkt met de bestandsnaam Het komt van. Regels die niet aan uw formaat voldoen, worden met een reden in een tabel met onbewerkte regels bewaard, zodat er niets verloren gaat. U kunt de rijen opvragen met SQL vanuit Excel, Google Sheets of een dashboard, terwijl de bestanden op de computer blijven staan waarop de Agent draait.

Geparseerde regels komen terecht in fileset.events, of in de Tabelnaam U hebt gekozen. De agent kopieert de rijen naar een lokale cache op de agentcomputer en serveert ze als SQL.

Elke mapconnector biedt u ook de mogelijkheid om... bestanden, bestanden_gebeurtenissen, mappen, map_snapshots en volumesen logconnectoren voegen toe log_cursors met de leespositie van elk bestand. Altijd GESORTEERD OP event_time.

Waar het zijn nut bewijst:

• Een interne applicatielogboek in een spreadsheet opvragen zonder een parser te schrijven.
• Visualiseer fouten in batchtaken die 's nachts zijn uitgevoerd op een dashboard, gebaseerd op een logbestand in platte tekst.
• Zorg ervoor dat het tekstlogboek van een verouderd apparaat doorzoekbaar blijft met SQL, naast uw andere gegevens.

Wat je nodig hebt

Een Query Streams-account

Mapkoppelingen zijn beschikbaar in alle abonnementen, ook in het gratis abonnement. Het gratis abonnement is een abonnement dat je behoudt, geen proefperiode die verloopt. Er is geen limiet aan het aantal bestanden dat een map kan bevatten.

De Agent, versie 2.6.0 of later

Geïnstalleerd op een computer die de map kan openen: de bestandsserver zelf, een kantoorcomputer of de machine waarop de bestanden terechtkomen. Een oudere versie van Agent toont de mapkaarten grijs weergegeven met een Agent 2.6.0+ badge. Windows, Mac of Linux.

Het pad van de map, zoals de agent het ziet.

Een lokaal pad, of een netwerkshare die als volgt is geschreven: \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt of /media, a Mac under /Volumes).

Stel het in vijf stappen in.

1. Installeer de agent op een computer die de map kan openen.

   Aanmelden, openen DownloadInstalleer de agent voor uw systeem op de computer die elk tekstlogbestand dat u beschrijft kan openen: de bestandsserver of een andere computer die altijd aan staat en toegang heeft tot de gedeelde map. Dit duurt een minuut en start daarna automatisch. U hebt versie 2.6.0 of hoger nodig; de meest recente versie is altijd beschikbaar op de downloadpagina.

   Waarom een klein programma in plaats van een driver? De agent is een eenmalige installatie voor Windows, Mac of Linux (ongeveer 85 MB op Windows, iets meer dan 100 MB op Mac en Linux). Het opent één versleutelde uitgaande verbinding met Query Streams en dat is het enige netwerkpad dat nodig is: geen inkomende poort om te openen, geen VPN. Het leest de bestanden in de map waarin het zich bevindt, waardoor de bestanden op hun plaats blijven en alleen de rijen die een query retourneert via internet naar de add-in, browser of AI-client aan uw kant worden verzonden.

   De downloadpagina toont Uw toegangssleutelPlak het in de Agent wanneer daarom wordt gevraagd en wacht tot de badge is weergegeven. Verbonden met querystreamsDat is het enige wat je op de computer van de agent doet; al het andere gebeurt in je browser.

   Complete walkthroughs zijn beschikbaar als je die wilt: Windows, Mac, Linux.

2. Richt het op een willekeurig tekstlogboek dat je beschrijft.

   Ga terug naar uw browser Gegevens → GegevensagentenZoek de agent die je zojuist hebt geïnstalleerd en klik erop. Connector toevoegen knop. Open de Bestanden en mappen pil en kies de Aangepaste logmap kaart. Weet je niet zeker welke kaart past? Kies Bestanden in een map In plaats daarvan: de agent neemt een steekproef van de map, benoemt de inhoud op een pagina 'Wat we hebben gevonden' en opent de juiste, vooraf ingevulde kaart voor u.

   De tovenaar rent Mappen → Controleren → Instellingen → Realm → Controleren. Op Mappen:

   Hoofdmappen

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Scan submappen, maximale diepte

   Aan, en standaard 8 niveaus.

   Patronen opnemen, patronen uitsluiten

   Welke bestanden tellen mee? Het include-patroon begint met de juiste glob voor deze kaart. Eén connector leest één bestandstype: een map met CSV-bestanden. en Parquet-bestanden hebben twee connectors in dezelfde map, één per bestandstype.

   Volg symbolische links en junctions

   Standaard uitgeschakeld. De agent volgt geen snelkoppelingen of cloud-placeholders, tenzij u deze functie inschakelt.

   Open in het portaal de agent die de map kan zien en klik. Connector toevoegen. Onder Bestanden en mappen kiezen Aangepaste logmapZodra deze is aangemaakt, verschijnt deze in de lijst met connectoren als Logbestanden.

   • Voeg de map toe onder Hoofdmappen. Typ een netwerkshare als \\server\share\folder, niet als een toegewezen stationsletter.
   • Set Voeg patronen toe om overeen te komen met uw bestanden. De standaardinstellingen van het logstuurprogramma zijn: **/*.log en **/*.txt.
   • Beschrijf de opmaak. De map 'Aangepaste logmap' is de enige logkaart die u kunt bewerken: geef aan waar de tijdstempel op een regel staat en welke delen kolommen worden. Of klik Laat Nova een format voorstellen. met een dagelijkse limiet.
   • Tabelnaam is optioneel en de standaardwaarde is evenementen.
   • Aanvulling (dagen) is 30. Bewaar evenementen gedurende N dagen. Bewaart alles, tenzij je het anders instelt.

   Als uw formaat gangbaar is, staat er in de lijst ook: "Heeft u een logtype nodig dat niet in de lijst staat? Dien een supportverzoek in en we voegen het binnen enkele dagen toe."

3. Bekijk wat het zal bouwen

   Op Rekening De agent leest een voorbeeld van maximaal 64 bestanden en laat zien wat er gebouwd zal worden. Er is nog niets aangemaakt. De knop geeft de volgende tekst weer: Testverbinding totdat er een vonnis is, dan Volgende; Test opnieuw Het voorbeeld wordt opnieuw uitgevoerd nadat u iets hebt gewijzigd. U ziet dan een van de vier volgende kopteksten:

   Klaar om te creëren

   Elk geselecteerd bestand past. De chips eronder geven aan hoeveel mappen bereikbaar waren, hoeveel bestanden en rijen er waren en welke tabellen er aanwezig waren.

   Klaar, met aantekeningen.

   Sommige bestanden worden opzijgezet, of de lay-outcontrole wordt geweigerd. Een oranje banner geeft precies aan welke: "{n} van {m} bestand(en) worden opzijgezet" met een Geef aan welke bestanden het betreft en waarom. lijst, en "Je kunt het sowieso aanmaken - de connector blijft controleren en rapporteert de reden op het tabblad Manifest."

   Deze bestanden zijn niet van dit logtype.

   Het voorbeeld werd niet herkend als het logformaat van deze kaart. Controleer of u de juiste kaart hebt geselecteerd, of gebruik de volgende methode. Aangepaste logmap beschrijf de kaart en het formaat ervan.

   Een weigering of het terzijde leggen van bestanden blokkeert je nooit: klik hier. VolgendeVoltooi de wizard en repareer de afwijkende bestanden later. Alleen een offline agent of een ontbrekende map stopt de wizard.

   Op RekeningDe agent leest een voorbeeld en laat zien wat hij gaat bouwen. Er wordt nog niets gemaakt. Als het voorbeeld niet aan het door u beschreven formaat voldoet, luidt de koptekst: Deze bestanden zijn niet gevolgd door het type, en een amberkleurige banner zegt "De schema-analyse is geweigerd:" met de reden. Open Geef aan welke bestanden het betreft en waarom. Om het bestand en het redenraster te bekijken. Pas de opmaak aan of verfijn deze. Voeg patronen toe zodat overbodige bestanden worden weggelaten, dan Test opnieuwJe kunt het ook op een andere manier aanmaken. De connector blijft controleren en rapporteert de reden op zijn scherm. Manifest tab, en regels die niet overeenkomen met het land in gebeurtenissen_ruwe_lijnen waar je ze kunt lezen en de opmaak kunt verfijnen.

4. Kies hoe vaak er gescand moet worden en maak het vervolgens aan.

   De standaardinstellingen op Instellingen Geschikt voor een map die dagelijks een paar bestanden ontvangt. Vier zaken die je wellicht wilt wijzigen:

   Scaninterval

   Elk uur Standaardinstelling; kies een frequentie van elke 5 minuten tot dagelijks. Elke scan vergelijkt de grootte en de wijzigingstijd om nieuwe, gewijzigde en verdwenen bestanden te vinden.

   Houd de map in de gaten voor wijzigingen (vrijwel in realtime).

   Standaard uitgeschakeld. Ingeschakeld reageert de agent binnen enkele seconden op lokale schijven; op netwerkshares werkt deze naar beste vermogen en blijft de geplande scan de garantie. Rustperiode (15 seconden) wacht tot het schrijven van een bestand is voltooid.

   Vernieuw de pagina voordat u een vraag beantwoordt.

   Standaard uitgeschakeld. In deze stand wordt een zoekopdracht eerst opnieuw uitgevoerd als de laatste scan ouder is dan de ingestelde waarde. Verouderingsvenster (60 seconden), wachtend op maximaal de Wachtlimiet voor query's (5 seconden). Dit geldt voor personen en invoegingen, niet voor het peilen van waarschuwingen.

   Wanneer een bestand verdwijnt

   Verwijder de rijen standaard, of Behoud rijen, markeer verwijderd (grafsteen)De Verdwijningspercentage (0.5) weigert een scan die meer dan de helft van de bestanden tegelijk verliest en behoudt de vorige inventaris, wat overeenkomt met hoe een offline gedeelde map eruitziet.

   Kies vervolgens de Gegevensrijk Het aantal rijen telt mee, controleer Beoordeling en klik Connector makenDe eerste scan start direct. De connector Manifest Het tabblad laat zien wat er is gebouwd en welke bestanden er zijn opgeslagen.

5. Kijk naar je tafels

   Open de connector: de Manifest tab geeft een overzicht van de tabellen die zijn gemaakt en de Bestanden In het dialoogvenster worden alle logbestanden met hun status weergegeven. Querybouwer dezelfde tafels staan onder de bestandenset schema. Drie query's die vanaf dag één werken:

   De meest recente regels met het bestand waaruit ze afkomstig zijn.

   SELECT event_time, file_name, message FROM fileset.events ORDER BY event_time DESC LIMIT 100

   De 100 nieuwste records uit alle bestanden in de map. Werkt voordat je kolommen definieert.

   Regels die een fout vermelden, per bestand, in de afgelopen dag

   SELECT file_name, COUNT(*) AS errors FROM fileset.events WHERE message ILIKE '%error%' AND event_time >= now() - INTERVAL 1 DAY GROUP BY file_name ORDER BY errors DESC LIMIT 100

   Een tekstovereenkomst op berichtAls uw opmaak een niveaukolom definieert, filtert u daarop.

   Regels die niet aan uw formaat voldeden, om de volgende reden:

   SELECT reason, COUNT(*) AS lines, MIN(line) AS example FROM fileset.events_raw_lines GROUP BY reason ORDER BY lines DESC

   Leest gebeurtenissen_ruwe_lijnenGebruik de voorbeelden om de opmaak te verfijnen, sla vervolgens de connector op en de agent voert een nieuwe steekproef uit.

   Elke mapconnector bedient ook dezelfde boekhoudtabellen, allemaal in de bestandenset schema:

   Tafel	Wat het bevat
   bestanden	Elk bestand dat zich momenteel in de map bevindt: pad, naam, extensie, grootte, aanmaak- en wijzigingsdatum, eerste en laatste keer gezien. Een overzicht van bestanden_huidig, die ook bestanden bewaart die verdwenen zijn.
   bestanden_gebeurtenissen	De wijzigingsgeschiedenis: één regel per bestand dat verscheen, was gewijzigd, verdwenen, werd opzijgezet (drift) of was geweigerd, met de tijd in event_athoe het werd opgemerkt in gedetecteerd_door en de reden in detail.
   mappen, map_snapshots, volumes	Het aantal mappen en hun grootte, hoe ze zijn gegroeid en op welke schijven of gedeelde mappen de wortels voortleven.
   _bronbestand, _rij_id	Elke gegevensrij bevat twee kolommen: het bestand waar de rij vandaan komt en een stabiele rij-ID binnen dat bestand. Groeperen op _bronbestand om bestanden te vergelijken.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Mappen step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Gebruik het overal

De connector is een gegevensbron, net als elke andere in Query Streams. Sla een query eenmaal op in de Querybouwer (het dialect is DuckDB) en gebruik het vanuit:

Excel

De add-ons Een query streamen De rijen worden in een spreadsheet geplaatst en met een muisklik opnieuw uitgevoerd. SQL-query's uitvoeren in Excel.

Google formulieren

De Query Streamer De add-on vult een tabblad dat je selecteert. Power Query voor Google Sheets.

Claude, Cursor en andere AI-clients

Via de Query Streams MCP-server kent Claude het mapmodel, inclusief _bronbestand en bestanden_gebeurtenissen. Aangepaste logboeken met Claude via MCP.

REST API

Elke opgeslagen query wordt een alleen-lezen eindpunt met een eigen sleutel, in elk plan. Aangepaste logboeken REST API.

Nova

Stel uw vragen in begrijpelijke taal over het bedrijfsplan; Nova kent elke map, tabel en kolom dankzij de ingebouwde beschrijvingen.

Automatiseringen

Synchroniseer de rijen met Airtable, Smartsheet, Baserow, SeaTable of een spreadsheet volgens een planning. Automatiseringshandleidingen.

Maptabellen kunnen ook gekoppeld worden aan uw andere connectors: een gefedereerde query kan overeenkomsten vinden. _bronbestand namen of order-ID's in elk tekstlogboek dat u beschrijft, gekoppeld aan een database op dezelfde agent.

Hoe nieuwe, gewijzigde en verwijderde bestanden worden weergegeven

Bestanden die apart zijn gezet.

Op de stap 'Controleren' en het tabblad 'Manifest' staan drie woorden. Ze hebben verschillende betekenissen:

Aan de kant zetten (parkeren)

Het bestand komt niet overeen met de vastgezette lay-out, of is onleesbaar, beschadigd, vergrendeld of te groot. Het is alles of niets per bestand: een geparkeerd bestand draagt nul rijen bij. bestanden_gebeurtenissen records een drift rij waarvan detail De bestandsnaam en de kolomnaam worden doorgegeven. Het bestand wordt overgeslagen zolang de grootte en de wijzigingstijd hetzelfde blijven, en opnieuw geprobeerd zodra deze wijzigen.

Onleesbaar

De agent kon het bestand niet openen of verwerken vanwege het type: geen echt werkblad, vergrendeld door een ander programma, een cloud-placeholder, onleesbare bytes. Het bestand wordt automatisch afgesloten en de rest van de map wordt wel verwerkt. Alleen een map met nul leesbare bestanden weigert de volledige set.

Geweigerd

De agent kon geen enkele lay-out vastzetten, bijvoorbeeld omdat bestanden het niet eens waren over een kolomtype. Er bestaat nog geen gegevenstabel. bestanden_gebeurtenissen krijgt een geweigerd rij met de reden in detailEn de agent probeert het bij elke scan opnieuw totdat een lay-out wordt vastgezet. Corrigeer of sluit het bestand uit dat wordt genoemd en de melding verdwijnt.

Waar te kijken: de amberkleurige banner op Rekening (Geef aan welke bestanden het betreft en waarom.), de connector Manifest tab daarna, en voor logconnectoren de Bestanden dialoogvenster, waarin geparkeerde bestanden met de reden worden weergegeven laatste_foutIn SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Grenzen die het waard zijn om te kennen

Er is geen limiet aan het aantal mappen of bestanden in het abonnement. De rijen tellen wel mee voor uw Data Realm, net als bij elke andere connector. U kunt de standaardinstellingen van de connector verhogen of verlagen:

Inhoudslimieten, die een bestand parkeren in plaats van het te verkleinen: 2.000.000 rijen of 512 MiB per bestand, 10.000.000 rijen of 2 GiB per scan. Een map kan maximaal 25 verschillende lay-outs bevatten. Eén tafel per lay-out modus.

Vragen die mensen stellen

• Bestandssysteem
• CSV-map
• Parquet-map
• Excel-map
• SQLite-map
• JSONL-map
• CSV-bestand met meerdere records
• Machinelogboeken
• Webserverlogboeken
• Containerlogboeken
• Toepassingslogboeken
• Systeemlogboeken